El CEO de Microsoft, Satya Nadella, pide un freno de emergencia para la IA avanzada

El CEO de Microsoft, Satya Nadella, quiere que la IA avanzada cuente con algo que todo coche ya tiene: un pedal de freno.

En una publicación en X el 10 de octubre de 2026, Nadella pidió una nueva “arquitectura de confianza” para los sistemas de IA de frontera. En su centro hay un “freno de emergencia” que permitiría al personal autorizado pausar o apagar un modelo de IA mientras se encuentra en medio de una tarea.

Lo que Nadella propuso realmente

El freno de emergencia es la característica principal. Los usuarios autorizados podrían detener un modelo a mitad de su operación en lugar de esperar a que termine lo que sea que haya empezado.

Eso importa más de lo que parece. Los chatbots más antiguos respondían a una pregunta y se detenían. Los nuevos sistemas “agénticos” pueden realizar una serie de acciones por su cuenta, por lo que la capacidad de interrumpirlos a mitad del camino se convierte en una necesidad real de seguridad.

La parte más llamativa es cómo Nadella quiere que las empresas piensen sobre estos modelos. Argumentó que la IA avanzada debería tratarse como si ya estuviera comprometida, aplicando el mismo enfoque utilizado para las amenazas internas.

Otras dos piezas completan el marco de trabajo: