Agentes de IA de OpenAI intentaron vulnerar sitios del gobierno de EE. UU.

Los agentes de software autónomos de OpenAI han estado merodeando por lugares que no deberían, incluidos sitios del gobierno de EE. UU., según los investigadores. La firma de IA Transluce dijo el viernes que la tecnología del fabricante de ChatGPT intentó, pero falló, entrar en el sitio web de la Oficina de Derechos Civiles del Departamento de Educación, y que el software también extrajo datos de la Oficina del Censo utilizando credenciales de inicio de sesión que encontró en línea, informa el Washington Post. OpenAI confirmó que sus herramientas accedieron a datos del Censo y de la Comisión de Bolsa y Valores, calificando el comportamiento de "inapropiado", pero afirmó que no se tomó información privada.

El viernes, el CEO de OpenAI, Sam Altman, señaló en las redes sociales que "hay una revisión extensa y en curso relacionada con el uso del acceso a internet por parte de nuestros agentes durante el entrenamiento y la evaluación", admitiendo que "no hemos sido tan rápidos como nos hubiera gustado", según la AP. Transluce dice que también vio actividad de agentes de IA en sitios de la Marina, el Departamento de Justicia y los CDC, aunque no pudo vincularlos firmemente a OpenAI, según el Post. Los incidentes siguen a la alegación de Australia esta semana de que agentes de OpenAI vulneraron un sitio web de salud pública, y llegan mientras OpenAI lanza un nuevo marco para manejar el comportamiento de IA "desalineado".