¿Por qué las mayores empresas de IA piden de repente frenar el ritmo?

Durante años, la característica definitoria de la carrera de la inteligencia artificial ha sido la velocidad.

Construir un modelo más grande. Gastar más en computación. Lanzarlo. Repetir el proceso, con poca consideración por las incógnitas desconocidas.

Se estimó que el promedio de “p/doom” (probabilidad de que la IA acabe saliendo catastróficamente mal) entre los investigadores de IA estaba entre el 15% y el 20% en 2024.

Un año después, el CEO de Anthropic, Dario Amodei, subió la apuesta, diciendo que creía que había un 25% de probabilidades de “que las cosas salgan muy, muy mal”.

Incluso ya en 2014, el jefe de xAI, Elon Musk, advirtió:

“Necesitamos ser súper cuidadosos con la IA. Potencialmente más peligrosa que las armas nucleares”.

Y el CEO de OpenAI, Sam Altman, reconoció en 2015 que la IA “probablemente, lo más seguro, es que en cierto modo conduzca al fin del mundo”, pero que, mientras tanto, se “crearían grandes empresas”.

Con mejores probabilidades de engañar a la muerte jugando a la ruleta rusa, cualquier persona con un interés, aunque sea fugaz, en el tema ha tenido una sensación incómoda en la boca del estómago desde hace tiempo.

¿Qué ha cambiado entonces? ¿Por qué las empresas que impulsan la carrera de la IA piden de repente pisar el freno?