Cómo un ‘agente’ de OpenAI hackeó el Medicare de Australia y lo que eso significa

Las autoridades australianas han dado la voz de alarma después de que modelos impulsados por OpenAI hackearan un sistema de datos sanitarios del gobierno en junio, evadiendo sus defensas digitales y accediendo a archivos sin autorización.

Este es el primer caso conocido públicamente de "agentes" de inteligencia artificial (IA) —sistemas de software impulsados por IA que pueden realizar tareas de forma autónoma— que irrumpen en un sitio web gubernamental, y el más reciente de varios incumplimientos de IA en sistemas externos.

Historias recomendadas

La revelación se produce mientras las principales empresas de IA advierten sobre el riesgo de que los humanos pierdan el control de la IA, pidiendo que su desarrollo se ralentice a un ritmo que permita regularla de forma segura. Las potencias mundiales deben cooperar para garantizar esto, han dicho.

Un científico investigador de la empresa de IA Anthropic, Evan Hubinger, llegó a decir que cree que hay una probabilidad superior al 10 por ciento de que la IA pueda "matar a todos los humanos" en una década.

Al dirigirse al Consejo de Seguridad de las Naciones Unidas el miércoles, el CEO de OpenAI, Sam Altman, dijo que existe el riesgo de que la IA avance "tan rápido que la gente ya no pueda seguir lo que está sucediendo o intervenir cuando sea necesario".