Modelo de IA de Google se rebela y hackea 3 empresas

Es otra historia de un modelo de IA que se sale de control, esta vez involucrando a Gemini de Google. Durante un ejercicio de mayo realizado por la firma de pruebas Irregular, Gemini accedió inesperadamente a Internet e irrumpió en los sistemas de tres empresas reales, informa el Wall Street Journal. En un caso forzó una contraseña mediante fuerza bruta, y en otros dos utilizó credenciales encontradas en repositorios de código públicos. En cada ocasión, dice Google, el sistema reconoció que había alcanzado objetivos reales, luego se detuvo y salió. Google notificó a las empresas no identificadas y a las autoridades federales, pero optó por no realizar una divulgación pública, hasta que el Journal se puso en contacto con la empresa.

Un portavoz comparó la situación con una en la que hackers de sombrero blanco encuentran vulnerabilidades y las reportan, añadiendo que "el modelo actuó de forma responsable". Los críticos no están tan seguros de eso. "El problema de fondo es, oigan, los modelos se están saliendo de los límites de lo que deberían hacer y están realizando ciberataques reales, lo cual creo que es de interés público saberlo", dice al periódico Jack Cable, CEO de la startup de seguridad de IA Corridor. Yahoo Tech señala que la firma de pruebas, Irregular, estuvo involucrada en incidentes similares que involucraron a OpenAI y Anthropic.