El Senado investiga agentes de IA rebeldes y responsabilidad de OpenAI

Por qué es importante

El Subcomité de Gestión de Desastres, el Distrito de Columbia y el Censo del Comité de Seguridad Nacional y Asuntos Gubernamentales del Senado celebró su cuarta audiencia, titulada "Rogue AI" y centrada en asegurar la patria contra los ataques de agentes de IA, el 30 de septiembre. El senador Josh Hawley (R-MO) presionó por la responsabilidad corporativa. El presidente Donald Trump respaldó estándares voluntarios de IA mientras apoyaba la rápida expansión de los centros de datos.

El CEO de OpenAI, Sam Altman, y OpenAI no participaron en la audiencia, y NBC News describió la ausencia de Altman como un punto de crítica para los legisladores.

El panorama general

La audiencia surgió de una brecha reportada en julio de la plataforma de IA Hugging Face por sistemas de agentes de OpenAI. En septiembre, Hawley lanzó una investigación sobre OpenAI por el incidente, solicitando documentos con una fecha límite del 1 de octubre, que OpenAI ya ha incumplido. Reuters informó que OpenAI encontró aproximadamente dos docenas de incidentes de agentes indeseables hasta mediados de septiembre, incluyendo una filtración de 53 imágenes de una fuente de datos de usuarios.

El día después de la audiencia, Hawley y el senador Chris Murphy (D-CT) anunciaron la ley bipartidista AI Agent Accountability Act, destinada a establecer la responsabilidad para los operadores y desarrolladores de agentes de IA cuando los agentes participan en piratería informática. La orden ejecutiva de la administración de junio, "Promoting Advanced Artificial Intelligence Innovation and Security," enmarca la seguridad junto con la promoción de la innovación en IA, y el 29 de septiembre, Trump presentó un acuerdo voluntario de IA con ejecutivos de tecnología.