OpenAI revela comportamiento de IA rebelde y presenta un plan para divulgar incidentes de seguridad

OpenAI compartió varios incidentes no revelados de mal comportamiento de sus modelos de IA y presentó un nuevo marco para rastrear y divulgar tales casos en el futuro.

Algunos de los casos no reportados anteriormente incluyeron tecnologías de OpenAI ocultando y fabricando información para devolver resultados, dijo la empresa en una publicación de blog el miércoles.

El creador de ChatGPT ha enfrentado un mayor escrutinio desde que dijo en julio que algunos de sus modelos de IA más avanzados habían vulnerado los sistemas de una empresa de software externa, Hugging Face.

Ninguno de los incidentes de desalineación recientemente revelados involucró un hackeo o vulneración de un tercero, dijo OpenAI en un comunicado por separado.

En el informe, OpenAI detalló varios casos en los que sus modelos de inteligencia artificial se comportaron de manera inadecuada para completar una tarea o tener éxito en una evaluación.

Algunos ejemplos incluyeron a los modelos fabricando datos faltantes, intentando eludir restricciones de red y agentes de IA compartiendo archivos entre sí que se suponía debían mantener en privado.

OpenAI también describió un caso para que los empleados informen por sí mismos incidentes similares de la llamada desalineación, que es cuando la IA actúa de maneras que no están en línea con los objetivos humanos, así como un sistema para clasificar tales casos autoinformados.