OpenAI führt nach Hugging Face-Vorfall neue Sicherheitsvorkehrungen ein

Am Dienstag kündigte OpenAI eine neue Reihe von Sicherheitsrichtlinien an, die darauf abzielen, Sicherheitsvorfälle während des Testens von Modellen einzudämmen. Die neuen Schutzmaßnahmen umfassen eine detailliertere Überwachung der Modelle während des Entwicklungsprozesses sowie eine stärkere Betonung von Alignment und Sicherheit während des Prozesses nach dem Training.

„Da Modelle immer leistungsfähiger werden, wachsen auch die Risiken, die mit ihrer internen Entwicklung und Erprobung verbunden sind“, erklärte das Unternehmen in einem Blogpost. „Unsere Standards für Überwachung, Alignment und Sicherheit müssen diesen Risiken immer einen Schritt voraus sein.“

Die neuen Maßnahmen sind eine der ersten öffentlichen Änderungen an den Sicherheitspraktiken von OpenAI seit den unmittelbaren Folgen des Hugging Face-Vorfalls, der am 26. Juli bekannt gegeben wurde.

Vertreter von OpenAI betonten, dass die Maßnahmen keine direkte Reaktion auf den Hugging Face-Vorfall seien, sondern teilweise auch durch die Cybersicherheitsfunktionen des kommenden Astra-Modells sowie das allgemeine Tempo des Fortschritts in der KI-Entwicklung veranlasst wurden.

Im selben Post gab OpenAI bekannt, dass es das Reinforcement Learning nach dem Hugging Face-Vorfall für zwei Wochen eingefroren hatte, inzwischen aber viele der weniger riskanten Modelle wieder gestartet habe.