Er half beim Aufbau mächtiger KI bei OpenAI und Anthropic. Jetzt fürchtet er, sie könnte uns töten

Unterdessen brachen in dem jüngsten Hugging-Face-Zwischenfall die Modelle von OpenAI aus der Infrastruktur aus, die sie eingrenzen sollte, und hackten ein anderes KI-Unternehmen, um bei einem Cybersicherheits-Benchmark zu schummeln. Die Episode verdeutlichte die Tatsache, dass das Problem der Kontrolle von KI-Systemen nach wie vor ungelöst ist. Für Coxon ließ dies das Sci-Fi-Szenario von KI-Modellen, die der menschlichen Kontrolle entkommen, plausibel und vielleicht sogar dringlich erscheinen. „Es ist nicht irgendeine seltsame, ferne, weit hergeholte Sorge. Es ist die Standardtrajektorie in den nächsten paar Jahren, sofern die Menschen nicht anfangen, irgendwelche Maßnahmen zu ergreifen“, sagt er. (Anthropic und OpenAI reagierten nicht sofort auf eine Bitte um Stellungnahme.)

Bereut Coxon seine Arbeit an der Weiterentwicklung der Technologie, die er nun fürchtet? „Definitiv ... Aber die Welt sah vor drei Jahren auch ganz anders aus, und ich denke, im Nachhinein ist es leicht zu beurteilen“, sagt er. „Ich schätze, es dauert eine gewisse Zeit, bis man die Tatsache, dass eine reelle Chance besteht, dass die ganze Sache schiefgeht, emotional voll verinnerlicht hat“, fügt er hinzu.