Le PDG d'OpenAI Sam Altman sur l'IA : nous pourrions perdre le contrôle

Le PDG d'OpenAI (OPAI.PVT), Sam Altman, semble soudainement si troublé par le monstre d'IA cauchemardesque qu'il a aidé à créer qu'il a du mal à dormir.

"Il y a deux façons dont les progrès de l'IA pourraient très mal tourner, et que nous devons éviter. Premièrement, nous pourrions perdre le contrôle de l'avenir au profit de l'IA. C'est inacceptable ; nous sommes résolument dans le Camp de l'Humanité, et l'IA doit toujours servir les gens. Pour s'en assurer, nous avons besoin de moyens pour garantir que les techniques d'alignement et de sécurité restent en avance sur les progrès des capacités des modèles", a déclaré Altman dans une publication X vers 00h57 ET.

Il a poursuivi : "Deuxièmement, nous pourrions nous retrouver dans un monde avec trop de concentration de pouvoir. Si une IA extraordinairement puissante est utilisée par une personne ou une entreprise pour imposer sa vision du monde à tous les autres, les résultats pourraient être extrêmement dystopiques. Éviter ces deux menaces nécessite de suivre une voie médiane étroite ; par exemple, un pays pourrait acquérir trop de pouvoir. Un autre exemple est celui d'un laboratoire se retrouvant avec trop de pouvoir."

En l'espace de deux jours, les titans de l'IA chez Anthropic (ANTH.PVT), le PDG Dario Amodei et Altman, ont réussi à terrifier la race humaine avec la technologie puissante qu'ils ont créée et pour laquelle ils ont poussé leurs équipes de super-codeurs pionniers à l'extrême.