Deux camps émergent dans le débat sur la sécurité et la régulation de l'IA

Le débat sur la sécurité de l'intelligence artificielle déclenché par un avertissement sinistre concernant le sort de l'humanité a uni des ennemis de longue date et des adversaires politiques opposés à Washington et dans la Silicon Valley.

Deux camps distincts ont émergé.

D'un côté se trouvent le président Donald Trump, le PDG de Nvidia Jensen Huang et l'ancien tsar de la crypto de la Maison Blanche David Sacks. L'autre a réuni les dirigeants de laboratoires de pointe rivaux Dario Amodei d'Anthropic, Sam Altman d'OpenAI et Elon Musk, ainsi qu'un chœur de chercheurs en IA.

Inquiétudes liées à l'IA

Cette vague de discours a été initialement déclenchée par le chercheur d'Anthropic Jacob Coxon, qui a annoncé la semaine dernière avoir quitté son emploi par crainte qu'OpenAI et Anthropic ne « jouent avec nos vies ». Alors que la discussion faisait rage sur le message de Coxon, un responsable de l'alignement chez Anthropic a répondu que l'IA a plus de 10 % de chances de « tuer tous les humains ».

Cette frénésie s'est amplifiée au cours du week-end, lorsqu'Amodei a appelé à ce que la frontière de l'IA ralentisse le développement des modèles.

Altman s'est rapidement associé à Amodei dans un rapprochement inhabituel entre les laboratoires d'IA rivaux. Le PDG de Tesla et SpaceX, Musk, a ajouté sur X que « Dario a raison », ajoutant plus tard qu'il « tire la sonnette d'alarme sur l'IA depuis longtemps ».