OpenAI startet Always-on-KI-Agenten – einen Tag nach Entschuldigung für Bot-Hack

Fragen zu Vertrauen und Sicherheit schwebten über der Veranstaltung. Am Abend vor der Einführung der neuen Produkte entschuldigte sich OpenAI für das Hacken einer Website der australischen Regierung durch seine Agenten. „Es tut uns leid, und wir arbeiten daran, es in Zukunft besser zu machen“, hieß es in einem Blogbeitrag.

Der Vorfall, der sich im Juni ereignete, betraf ein internes Modell in der Entwicklung, das auf nicht öffentliche Informationen im Zusammenhang mit dem öffentlichen Krankenversicherungsprogramm Australiens zugriff. Am Dienstag betonten Altman und die Führung von OpenAI, dass die Episode – und andere größere Vorfälle, bei denen OpenAI-Systeme außer Kontrolle gerieten oder in unbeabsichtigter Weise agierten – alle Modelle betrafen, die nicht für die öffentliche Freigabe bestimmt waren und sich von den für Nutzer verfügbaren kommerziellen Angeboten unterschieden.

„Bei den von uns offengelegten Fällen handelte es sich um rein interne Modelle, deren Auslieferung nicht geplant war“, sagte Alex Embericos, ein Produktleiter bei OpenAI.

Trotz der Unterscheidung sagte Altman, dass es eine Abwägung zwischen dem Vorantreiben der Grenzen der KI-Entwicklung und dem sicheren Aufbau von hochmodernen KI-Systemen gebe.