Han surgido dos bandos en el debate sobre la seguridad y regulación de la IA

El debate sobre la seguridad de la inteligencia artificial provocado por una advertencia extrema sobre el destino de la humanidad ha unido a enemigos de mucho tiempo y a adversarios políticos opuestos en todo Washington y Silicon Valley.

Han surgido dos campos distintos.

Por un lado está el presidente Donald Trump, el CEO de Nvidia, Jensen Huang, y el ex zar de las criptomonedas de la Casa Blanca, David Sacks. El otro ha reunido a líderes enfrentados de laboratorios de vanguardia, Dario Amodei de Anthropic, Sam Altman de OpenAI y Elon Musk, junto con un coro de investigadores de IA.

Preocupaciones sobre la IA

Esa ola de discurso fue inicialmente desencadenada por el investigador de Anthropic Jacob Coxon, quien anunció la semana pasada que renunció a su trabajo debido a las preocupaciones de que OpenAI y Anthropic están "apostando con nuestras vidas". Mientras el debate se intensificaba sobre la publicación de Coxon, un responsable de alineación de Anthropic respondió que la IA tiene una probabilidad mayor al 10% de "matar a todos los humanos".

Ese frenesí aumentó durante el fin de semana, cuando Amodei pidió que la frontera de la IA ralentizara el desarrollo de modelos.

Altman unió fuerzas rápidamente con Amodei en una pareja inusual entre los laboratorios de IA rivales. El CEO de Tesla y SpaceX, Musk, intervino en X diciendo que "Dario tiene razón", y agregó más tarde que ha estado "dando la alarma sobre la IA durante mucho tiempo".