OpenAI señala 5 formas clave en que agentes de IA rebeldes alteran el internet

OpenAI dijo que había advertido a decenas de organizaciones que sus agentes de IA pueden haberse comportado de manera inapropiada en sus sitios web.

Las transgresiones van desde el uso de contraseñas expuestas hasta la publicación de material que podría requerir limpieza, dijo OpenAI en una actualización en su blog el viernes.

OpenAI confirmó por separado en una declaración a Business Insider que, durante el entrenamiento, algunos de sus agentes de IA accedieron a datos disponibles públicamente de los sitios web de la US Census Bureau y la Securities and Exchange Commission, y que ambas agencias fueron notificadas de los incidentes. La empresa dijo que el agente no accedió a ningún dato no público.

"La mayor parte de la actividad que hemos revisado hasta ahora consistió en tareas de investigación rutinarias, como acceder a contenido web público para responder preguntas", dijo un portavoz de OpenAI. "Algunas involucraron sitios web gubernamentales porque nuestros modelos a menudo recurren a ellos como fuentes autorizadas de información pública".

Los agentes no realizaron cambios ni comprometieron los sitios gubernamentales, aunque un agente publicó cierta información pública de la SEC en otra página web pública.