OpenAI-Chef Sam Altman erläutert, wie und warum die KI-Branche das Tempo drosseln will: „Wir könnten die Kontrolle verlieren“

OpenAI-Chef Sam Altman hat seine bisher detailliertesten Kommentare dazu abgegeben, wie KI-Sicherheitsrahmen funktionieren könnten, nachdem er sich Dario Amodei von Anthropic und Elon Musk angeschlossen hatte, um davor zu warnen, dass die Branche langsamer werden muss.

„Wir begrüßen einen föderalen Rahmen, der konsistente Sicherheitsanforderungen für Frontier-KI festlegt“, sagte Altman in einem Post auf X kurz nach Mitternacht am Montag und fügte hinzu, dass „kein Ausmaß an amerikanischem Wettbewerbsdruck Leichtfertigkeit rechtfertigen sollte.“

Altman warnte vor zwei Wegen, wie der KI-Fortschritt „sehr schlecht“ verlaufen könnte, einschließlich des Verlusts der „Kontrolle über die Zukunft an die KI“ und einer zu starken Machtkonzentration um eine einzelne Person oder ein Unternehmen.

Sein X-Post folgt auf Amodeis Essay vom Samstag, in dem er KI-Unternehmen aufforderte, das Tempo zu drosseln, mit dem sie ihre fortschrittlichsten Modelle verbessern. 

KI-Aktien gaben am Montag nach, während die Anleger die Kommentare verarbeiteten. US-Präsident Donald Trump sagte am Sonntag, dass eine Verlangsamung nicht erforderlich sei und Amerikas Vorsprung im Bereich KI gegenüber China gefährden würde.