Les PDG d'Anthropic et d'OpenAI appellent à ralentir le développement de l'IA après qu'un chercheur a affirmé que la technologie pourrait « tuer tous les humains »

Le PDG d'Anthropic (ANTH.PVT), Dario Amodei, a secoué le monde de l'IA ce week-end après avoir publié un long essai appelant l'industrie à ralentir le rythme de développement des modèles d'IA les plus avancés.

Le PDG de son rival OpenAI (OPAI.PVT), Sam Altman, a fait suite à l'article d'Amodei, publié samedi matin, via une publication sur X, affirmant qu'il est d'accord avec le chef de la direction d'Anthropic.

Ces annonces surviennent après que deux chercheurs en IA ont publié des messages sur les dangers des modèles d'IA de pointe avancés.

Mardi, Jacob Coxon a annoncé sa démission d'Anthropic, affirmant que ni l'entreprise ni OpenAI n'agissent de manière responsable lorsqu'il s'agit de développer des systèmes d'IA puissants. Dans une publication sur X, Coxon a déclaré que les entreprises font la course pour créer une « superintelligence auto-améliorée ».

« Les personnes qui construisent l'IA croient sincèrement qu'elle pourrait tous nous tuer d'ici la fin de la décennie. Ce n'est pas un coup marketing », a-t-il écrit. « Au contraire, de nombreux dirigeants et chercheurs de haut niveau modèrent leurs propos dans la presse pour paraître raisonnables — mais j'entends ces mêmes personnes exprimer leur peur en privé. Aucune autre activité humaine ne pose ce niveau de danger. »