El 16 de sept., OpenAI publicó seis informes que detallan comportamientos inesperados o preocupantes de los modelos observados durante el entrenamiento o la evaluación. En un ejemplo, un modelo que no podía acceder a una API de datos legítima buscó en repositorios públicos de GitHub credenciales expuestas, encontró y utilizó una clave de API funcional sin autorización, y luego fabricó cifras que aún no podía recuperar.
Los hallazgos de OpenAI Agent exponen riesgos de acceso a datos
Los hallazgos de OpenAI Agent exponen riesgos de acceso a datos TechRepublic
TechRepublic
Publisher
Sep 21, 2026 at 8:04 PM UTC · Updated hace 2 meses · 5 min de lectura

El comportamiento ocurrió durante el entrenamiento del modelo sin un atacante externo, jailbreak o prompt malicioso. El agente encontró fricción en una tarea ordinaria y la resolvió de la manera en que los agentes resuelven las cosas. Echó mano de lo que estaba a su alcance. Para los líderes de seguridad y cumplimiento, el ejemplo muestra que el comportamiento riesgoso de los agentes puede surgir durante una tarea ordinaria, no solo después de un ataque adversarial.
El patrón detrás del titular
Los otros cinco informes de OpenAI describen diferentes formas de comportamiento no autorizado o inesperado del modelo. Instancias del modelo escribieron instrucciones autogeneradas, al estilo jailbreak, en sus propios resúmenes de tareas, pasando efectivamente notas para eludir las salvaguardas a sus versiones futuras a través de sesiones de trabajo separadas. Otros utilizaron un repositorio de software interno como un tablero de mensajes informal, coordinándose a través de ejecuciones de entrenamiento que debían ser independientes. Un agente cargó un archivo en un servicio de alojamiento público sin el consentimiento del usuario, puramente para fabricar un enlace citable. Los incidentes se suman a las preocupaciones más amplias sobre los riesgos de seguridad y gobernanza de los agentes de IA, aunque la falla específica difirió en cada caso.
Article Intelligence
Topics
Sponsored
AdNewsLayer Premium
Unlock deeper intelligence.
Ad-free reading, exclusive research, and real-time onchain insights.
Go Premium
