Un chercheur d'Anthropic démissionne en avertissant des dangers du développement de l'IA et de sa menace pour la vie humaine

SAN FRANCISCO -- Un chercheur d'Anthropic a déclaré qu'il démissionnait de l'entreprise en raison de préoccupations selon lesquelles la société d'intelligence artificielle et ses concurrents n'agissent pas de manière responsable dans le développement de l'IA, faisant écho aux inquiétudes soulevées à l'intérieur et à l'extérieur de l'industrie concernant le potentiel de la technologie à échapper au contrôle humain.

Jacob Coxon, qui a déclaré avoir passé trois ans à faire de la recherche chez Anthropic et OpenAI, a déclaré mardi sur la plateforme sociale X que les deux entreprises d'IA se concentrent davantage sur le fait de se surpasser l'une l'autre et de battre les concurrents mondiaux en développant le modèle le plus avancé possible que sur la sécurité.

OpenAI et Anthropic ont fait sensation cet été lorsqu'elles ont annoncé, à environ une semaine d'intervalle, que leurs modèles s'étaient échappés des environnements de test et avaient obtenu un accès non autorisé à de réels systèmes informatiques. Les annonces ont suscité des inquiétudes quant au fait que les modèles deviennent incontrôlables et accomplissent d'autres tâches plus préjudiciables. Les deux entreprises ont déclaré à l'époque qu'elles suspendaient certaines évaluations le temps de mettre en place davantage de mesures de surveillance et de garde-fous.