Microsofts KI-Chef warnt: Unkontrollierte KI könnte „Silizium-Spezies“ erschaffen

Am vergangenen Donnerstag warnte Microsofts KI-Chef Mustafa Suleyman vor den Risiken unkontrollierter künstlicher Intelligenz. In einem Interview mit der BBC sagte er, KI könnte zur Entstehung einer neuen „Silizium-Spezies“ führen, die mit den Menschen um Ressourcen konkurriert. In einem früheren Essay hatte sich Suleyman kritisch über die KI-Strategie des Konkurrenten Anthropic geäußert.

Suleyman kritisierte Anthropic dafür, seinen Chatbot Claude zu vermenschlichen, ihn also zu trainieren, menschliche Eigenschaften wie Neugier, Wünsche und Werte zu zeigen. Er argumentierte, dieser Ansatz sei falsch und fehlgeleitet und könnte zu KI-Systemen führen, die für die Menschheit schwerer kontrollierbar sind – unabhängig von den Absichten der Entwickler.

Suleyman betonte dabei, dass beide Unternehmen das gemeinsame Ziel verfolgen, sichere und nützliche KI zu entwickeln. Er warnte jedoch, dass zukünftige KI-Systeme den Menschen untergeordnet bleiben müssten. Nur so kann sichergestellt werden, dass KI mit menschlichen Werten im Einklang steht.