Même le roi d'Angleterre a ses hésitations concernant l'IA

Le roi Charles a organisé un sommet privé jeudi avec certains des plus éminents noms de l'IA et du gouvernement du Royaume-Uni, incluant Jensen Huang de Nvidia, des dirigeants d'OpenAI et d'Anthropic, le nouveau ministre de l'IA du Royaume-Uni Kanishka Narayan, et même le chef du service de renseignement extérieur du Royaume-Uni. Paolo Benanti, qui conseille le pape sur l'IA, était également présent.

Les remarques lors du sommet du roi — tenu à Dumfries House, un domaine du XVIIIe siècle dans l'Ayrshire appartenant à la fondation caritative du roi Charles — étaient notables car la famille royale est généralement prudente, pour des raisons constitutionnelles, à l'idée de s'aventurer trop profondément dans des questions politiques — et l'IA est l'un des sujets les plus brûlants au monde en ce moment. Le roi a exhorté les dirigeants présents dans la salle à trouver un moyen de contrôler l'IA « avant qu'il ne soit trop tard », ajoutant que le développement rapide de cette technologie — et sa « substance » — était « à la fois intrigant et profondément préoccupant ».

« L'IA montre déjà une immense capacité à améliorer et à sauver des vies », a-t-il déclaré, citant la médecine et la science en exemple. « Pourtant, ceux qui ont créé ces technologies avertissent désormais de plus en plus que l'IA risque de développer des capacités plus sombres, peut-être même de prendre des vies. » Cette remarque intervient quelques jours seulement après la démission d'un chercheur d'Anthropic, qui a écrit en ligne que les entreprises d'IA étaient « engagées dans une course pour construire des machines bien plus intelligentes que n'importe quel humain » et que l'humanité « pourrait ne pas y survivre ».