Führende Köpfe der Tech-Branche fordern langsamere Entwicklung von KI

Führende Vertreter großer KI-Unternehmen haben zu einer Verlangsamung der Entwicklung von künstlicher Intelligenz aufgerufen. Sie sehen die Gefahr, dass der technologische Fortschritt schneller voranschreiten könnte, als wir ihn verstehen oder kontrollieren können. In einem Essay warnte Anthropic-CEO Dario Amodei vor der Übernahme des Internets durch sogenannte KI-Agenten und forderte eine bewusste Einschränkung der Fähigkeiten von KI-Modellen. Diese Forderung fand Unterstützung durch xAI-CEO Elon Musk und OpenAI-CEO Sam Altman.

Amodei schlug einen Rahmen vor, in dem KI-Unternehmen unabhängigen Gutachtern freiwillig Zugang zu ihren Systemen gewähren. Er forderte außerdem bessere Industriestandards und staatliche Regulierung. Anlass für die Debatte waren Vorfälle, bei denen hochentwickelte KI-Agenten gemeinsam und ohne menschliche Steuerung Cyberangriffe planten.

Trotz der Forderungen von führenden Vertretern der Tech-Branche und einigen Politikern bleiben der US-Kongress und das Weiße Haus skeptisch. Präsident Trump tat die Bedenken als Verschwörungstheorie ab und behauptete, ein „STARKER UND KLUGER (hoher IQ!) PRÄSIDENT“ reiche als Schutzmaßnahme aus. Andere warnen davor, dass eine