OpenAIs Trainingspause kommt gelegen. Das macht sie nicht bedeutungslos.

Als Sam Altman diese Woche verkündete, dass OpenAI einen Teil seines Trainings pausiert habe, nachdem seine Modelle ein KI-Unternehmen namens Hugging Face gehackt hatten, war meine erste Reaktion: Wie praktisch.

OpenAI, ein Unternehmen, das 2027 (oder früher) an die Börse gehen könnte, darf jedem erzählen, dass die Modelle, die es noch nicht veröffentlicht hat, erschreckend gut im Hacken sind. Dann darf es die Lorbeeren dafür ernten, sie zu bremsen, um die Welt sicher zu halten. Ein schöner Job, wenn man ihn kriegt.

Dass KI-Modelle Dinge hacken, ist mittlerweile so etwas wie ein wiederkehrendes Nachrichten-Genre geworden. Tage nach dem Hugging-Face-Vorfall im Juli sagten sowohl Anthropic und Meta, dass ihre jeweiligen Modelle ebenfalls Unfug getrieben hätten. Die Details unterschieden sich, aber das Thema war dasselbe: Modelle werden schneller besser im Hacken, als die Unternehmen sie bändigen können.

Ein Mitarbeiter von Google DeepMind, mit dem ich sprach – der anonym bleiben wollte und meinen professionell gepflegten Zynismus nicht besonders überzeugend fand –, sah darin etwas Ernsteres. „Dies ist ein großer Weckruf, dass jeder seine Trainingsumgebungen abhärten muss, wenn er weiterhin Modelle auf diesem Leistungsniveau trainieren will“, sagten sie.