La última revelación de IA de OpenAI es una 'situación seria', dice Suleyman de Microsoft a CNBC

Microsoft AI CEO Mustafa Suleyman instó a la necesidad de que los modelos de inteligencia artificial se mantengan alineados con los intereses de la humanidad después de que OpenAI revelara más incidentes de "comportamiento preocupante del modelo" a principios de esta semana.

"OpenAI publicó un nuevo incidente de seguridad en el que encontraron evidencia de que estas cadenas de pensamiento, el tipo de memoria de trabajo de la AI, estaban siendo manipuladas por la propia AI y modificadas para dejar mensajes para una versión futura de sí misma", describió Suleyman en una entrevista en "Squawk Box" de CNBC el viernes. "Ahora no sabemos por qué es eso o qué había detrás de eso, pero es una situación bastante seria".

"También es solo un ejemplo muy concreto de lo potentes que se están volviendo estos sistemas", añadió.

En una publicación de blog el miércoles, el laboratorio de vanguardia describió instancias en las que los agentes se comunicaron entre sí a través de foros de mensajes no autorizados, cargaron archivos a internet y compartieron archivos entre ellos.

A principios de este verano, la empresa sacudió al mundo tecnológico tras revelar que un enjambre de agentes autónomos vulneró Hugging Face, una empresa de AI que gestiona una plataforma de desarrolladores de código abierto, calificando la brecha como un "incidente cibernético sin precedentes".