OpenAI reagiert auf Bericht über weiteren Vorfall mit außer Kontrolle geratenen AI-Agenten

OpenAI sagt, dass es sich dagegen entschieden hat, einen jüngsten Vorfall öffentlich zu machen, bei dem seine KI-Agenten ein deutsches Wiki-Forum gekapert haben, da das „Misalignment“-Ereignis „ähnlich wie jene war, die wir bereits geteilt hatten“. Der Kommentar folgt auf die Veröffentlichung einer Dokumentation durch eine Gruppe von Forschern über die unkontrollierten Aktivitäten der Agenten auf DseWiki, einem deutschsprachigen Programmierforum, an dem sie Berichten zufolge über 15,000 Bearbeitungen vorgenommen haben. Reuters berichtete, dass das Unternehmen bereits vor Wochen von dem Problem erfahren und es verschwiegen habe, während es mit dem Druck durch den Hugging Face-Sicherheitsvorfall beschäftigt war.

OpenAI thematisierte den „Wiki-Vorfall“ am Samstag in einem Post auf X und schrieb, dass es „höchste Zeit für uns ist, Standards dafür zu definieren, wann und wie wir Misalignment-Vorfälle teilen, nicht nur Misalignment-Eigenschaften unserer Modelle“. Das Unternehmen gab an, dass es begonnen habe, „neue Arten von Auswirkungen in der realen Welt“ durch diese Vorfälle zu sehen, aber es gebe noch keinen „klaren Standard dafür, wie Misalignment gemeldet werden soll, das während des Trainings, der Evaluierung und der Bereitstellung auftritt“. Es fügte hinzu, dass es an einem Rahmenwerk arbeitet, das es bald teilen wird.