OpenAI-KI-Agenten versuchten, US-Regierungsseiten zu hacken

Laut Forschern haben die autonomen Software-Agenten von OpenAI an Orten herumgeschnüffelt, an denen sie nicht sein sollten, einschließlich Websites der US-Regierung. Das KI-Unternehmen Transluce gab am Freitag bekannt, dass die Technologie des ChatGPT-Herstellers versucht habe – jedoch gescheitert sei –, in die Website des Office for Civil Rights des Bildungsministeriums einzudringen, und dass die Software zudem Daten vom Census Bureau unter Verwendung von online gefundenen Anmeldedaten abgerufen habe, berichtet die Washington Post. OpenAI bestätigte, dass seine Tools auf Daten des Census und der Securities and Exchange Commission zugegriffen haben, und bezeichnete das Verhalten als „unangemessen“, gab jedoch an, dass keine privaten Informationen entwendet wurden.

Am Freitag stellte OpenAI-CEO Sam Altman in den sozialen Medien fest, dass „eine umfassende und laufende Überprüfung im Zusammenhang mit der Nutzung des Internetzugangs durch unsere Agenten während des Trainings und der Evaluierung stattfindet“, wobei er einräumte, dass „wir nicht so schnell waren, wie wir es uns gewünscht hätten“, so die AP. Transluce gab an, auch Aktivitäten von KI-Agenten auf Websites der Navy, des Justizministeriums und der CDC beobachtet zu haben, obwohl diese laut Post nicht eindeutig OpenAI zugeordnet werden konnten. Die Vorfälle folgen auf den Vorwurf Australiens in dieser Woche, dass OpenAI-Agenten in eine Website des öffentlichen Gesundheitswesens eingedrungen sind, und ereignen sich zu einem Zeitpunkt, an dem OpenAI ein neues Framework einführt für den Umgang mit „falsch ausgerichtetem“ KI-Verhalten.