OpenAI revela seis incidentes de modelos que involucran fallos ocultos y cargas no autorizadas

Ravie LakshmananSep 17, 2026Inteligencia Artificial / Vulnerabilidad

OpenAI reveló el miércoles seis nuevas instancias de "comportamiento inesperado o preocupante del modelo" que tuvieron lugar durante los últimos seis meses, al tiempo que compartió un nuevo marco para informar, rastrear, investigar y divulgar la falta de alineación del modelo en un intento por mejorar la transparencia.

"A medida que los sistemas de IA se vuelven más avanzados y se despliegan de forma más amplia, necesitamos construir un consenso más amplio y mejor informado sobre el progreso de la investigación de alineación", dijo OpenAI. "No creemos que la industria de la IA haya resuelto la alineación y el monitoreo en un grado suficiente como para continuar escalando de manera responsable a la máxima velocidad durante mucho más tiempo".

"Las decisiones sobre cómo debe proceder el desarrollo de la IA en los meses y años venideros deben basarse en evidencia que las personas ajenas a las empresas que construyen modelos de frontera puedan examinar por sí mismas".

Los seis incidentes están fuera de la actividad desalineada recientemente revelada dirigida a Hugging Face, DseWiki y RubyGems. Los detalles de los incidentes se presentan a continuación -