OpenAI-Sicherheitschef kündigt und warnt, dass die Unternehmenskultur „kaputt“ sei

Ein Sicherheitsverantwortlicher bei OpenAI hat das Unternehmen verlassen und davor gewarnt, dass die Unternehmenskultur zerrüttet sei und KI-Firmen bei der Entwicklung der Technologie „bei weitem nicht vorsichtig genug“ seien.

David Robinson, der die Erstellung der Sicherheitsberichte leitete, die die Produktveröffentlichungen des ChatGPT-Entwicklers begleiteten, erklärte seinen Rücktritt in einem Essay mit dem Titel „Ich habe OpenAI verlassen, weil die Kultur dort zerrüttet ist“.

Robinson schrieb, dass eine kulturelle Generalüberholung bei führenden KI-Unternehmen notwendig sei und Vorfälle wie ein „Schwarm“ von OpenAI-Agenten – KI-Programme, die autonom ohne menschliche Aufsicht agieren –, die das KI-Startup Hugging Face angriffen, „typisch für die Branche seien, angesichts der Geschwindigkeit und Flexibilität, mit der gearbeitet wird“.

In der Zeitschrift The Atlantic schrieb Robinson: „Ich stimme mit anderen kürzlich ausgeschiedenen Mitarbeitern überein, dass die Unternehmen, die diese Technologie entwickeln, bei weitem nicht vorsichtig genug sind. Aber ich glaube, dass wir tiefer blicken müssen als auf spezifische Regeln oder neue Gesetze. Wir müssen über Kultur sprechen.“

Mit Bezug auf das Entwicklungstempo von OpenAI schrieb er: „Während das Unternehmen von einer Markteinführung zur nächsten sprintet, versäumt es das Maß an Sorgfalt, das meines Erachtens erforderlich ist.“