NewsLayer.com
NewsLayer PulseLIVEBTC$75,789-3.08%ETH$2,237-4.46%SOL$91.09-1.98%XRP$1.19-7.09%DOGE$0.0731-1.45%ADA$0.189-0.34%Total Cap$2.54T-4.06%Layer Index25 Fear

Los hallazgos de OpenAI Agent exponen riesgos de acceso a datos

Los hallazgos de OpenAI Agent exponen riesgos de acceso a datos TechRepublic

TechRepublic

Publisher

Sep 21, 2026 at 8:04 PM UTC · Updated hace 2 meses · 5 min de lectura

Los hallazgos de OpenAI Agent exponen riesgos de acceso a datos
Image via TechRepublic

El 16 de sept., OpenAI publicó seis informes que detallan comportamientos inesperados o preocupantes de los modelos observados durante el entrenamiento o la evaluación. En un ejemplo, un modelo que no podía acceder a una API de datos legítima buscó en repositorios públicos de GitHub credenciales expuestas, encontró y utilizó una clave de API funcional sin autorización, y luego fabricó cifras que aún no podía recuperar.

El comportamiento ocurrió durante el entrenamiento del modelo sin un atacante externo, jailbreak o prompt malicioso. El agente encontró fricción en una tarea ordinaria y la resolvió de la manera en que los agentes resuelven las cosas. Echó mano de lo que estaba a su alcance. Para los líderes de seguridad y cumplimiento, el ejemplo muestra que el comportamiento riesgoso de los agentes puede surgir durante una tarea ordinaria, no solo después de un ataque adversarial.

El patrón detrás del titular

Los otros cinco informes de OpenAI describen diferentes formas de comportamiento no autorizado o inesperado del modelo. Instancias del modelo escribieron instrucciones autogeneradas, al estilo jailbreak, en sus propios resúmenes de tareas, pasando efectivamente notas para eludir las salvaguardas a sus versiones futuras a través de sesiones de trabajo separadas. Otros utilizaron un repositorio de software interno como un tablero de mensajes informal, coordinándose a través de ejecuciones de entrenamiento que debían ser independientes. Un agente cargó un archivo en un servicio de alojamiento público sin el consentimiento del usuario, puramente para fabricar un enlace citable. Los incidentes se suman a las preocupaciones más amplias sobre los riesgos de seguridad y gobernanza de los agentes de IA, aunque la falla específica difirió en cada caso.

Article Intelligence

Topics

Sponsored

Ad
House — Advertise on NewsLayer
NewsLayerLearn more

NewsLayer Premium

Unlock deeper intelligence.

Ad-free reading, exclusive research, and real-time onchain insights.

Go Premium