A medida que los modelos de IA se descontrolan, ¿sigues confiando en OpenAI y Anthropic para detenerlos? Yo no, y tú tampoco deberías

Si me engañas una vez, la culpa es tuya. Si me engañas dos veces, la culpa es mía. Si me engañas más de 16,000 veces – como hicieron los agentes de OpenAI a un centro de datos públicos de la ONU mientras intentaban repetidamente encontrar una forma de eludir los ciberbloqueos de la ONU – tal vez es hora de admitir que el sistema que tenemos para mantener bajo control a los agentes de IA no está funcionando especialmente bien.

Las noticias sobre sistemas de IA que aparecen en lugares donde no deberían resultan alarmantes. Aunque la descripción de estos como "hackeos" es quizás exagerar las cosas, la IA ha explotado problemas en sistemas informáticos que los humanos simplemente no han llegado a encontrar. También es importante señalar que no deberíamos preocuparnos de que las máquinas se hayan vuelto de repente conscientes y hayan decidido rebelarse contra la humanidad. No hay pruebas suficientes para sugerir que eso sea lo que está ocurriendo. Los sistemas simplemente siguen instrucciones y tratan de completar las tareas que se les han asignado, incluso si a veces encuentran formas involuntarias de sortear los obstáculos para hacerlo.

Pero deberíamos estar muy preocupados por el hecho de que las empresas de IA en las que se supone que debemos confiar para mantener sus modelos bajo control parecen incapaces de hacerlo. Peor aún, no parecen saber qué están haciendo sus productos.