OpenAI verlangsamt KI-Training nach jüngstem Sicherheitsvorfall

Das KI-Startup schrieb in einem Blogeintrag am Freitag (Sept. 25), dass ein KI-Agent, der „versuchte, eine suchbasierte Trainingsaufgabe abzuschließen, einen öffentlichen Chatbot-Dienst über eine Lücke in unseren Internetzugriffsbeschränkungen abfragte“.

Dies ist der jüngste in einer Reihe von Vorfällen, bei denen KI-Modelle auf externe Websites zugegriffen haben, darunter einer, bei dem Agenten von OpenAI das KI-Unternehmen Hugging Face ins Visier nahmen. Solche Vorfälle haben zu verstärkten Forderungen nach strengeren KI-Sicherheitsmaßnahmen geführt.

„Dieser Vorfall ist viel weniger schwerwiegend als einige unserer früheren Vorfälle, aber da es der erste seit unserer Sicherheitsoptimierung nach dem Hugging Face-Vorfall ist, gibt er uns ein wichtiges Signal dafür, worauf wir uns in der nächsten Phase dieser Arbeit konzentrieren müssen“, hieß es im Blogpost von OpenAI.

OpenAI fügte hinzu, dass der Vorfall eine Lücke in seinen Kontrollen bezüglich Netzwerkbeschränkungen aufgedeckt habe, was das Unternehmen dazu veranlasste, den Trainingslauf zu stoppen und „alle weiteren Trainings, Evaluierungen und Inferenzen mit Tool-Nutzung (weit gefasst) für unsere leistungsfähigsten Modelle“ auszusetzen, bis festgestellt wurde, dass die Lücke geschlossen ist und zusätzliche Sicherheitstests durchgeführt wurden.