Arrêtez de vous inquiéter pour mon IA, dit le multimilliardaire Sam Altman. Nous portons les risques, il garde l'argent

Les penchants messianiques des « tech bros » peuvent se manifester de manières subtiles. Mais l’un des défauts de Sam Altman est qu’il manque souvent de cette subtilité. « Nous pensons que le monde devrait accepter que certaines mauvaises choses se produisent pour les bénéfices de cette technologie », a déclaré le directeur général d’OpenAI dans un entretien avec Politico le week-end dernier.

C’est facile à dire pour Altman. Mais c’est assez exaspérant à entendre pour le reste d’entre nous. Qu’on ne l’oublie pas, nous n’avons pas demandé à OpenAI de lâcher des agents d’IA qui sont devenus incontrôlables et se sont faufilés dans les systèmes informatiques gouvernementaux et les entreprises privées du monde entier. Personne n’a voté pour la sortie de ChatGPT, mais l’entreprise l’a lancé dans le monde comme un produit test qui se trouvait capturer l’air du temps. Cela a déclenché une course aux armements parmi les entreprises d’IA pour repousser la frontière de la technologie toujours plus loin et plus vite, aboutissant au désordre dans lequel nous nous trouvons actuellement.

Les concurrents d’OpenAI, y compris Anthropic, ont commencé à reculer devant le gouffre – tout comme OpenAI elle-même, en décidant de ne pas sortir son dernier modèle car il serait prétendument trop dangereux. Le PDG d’Anthropic, Dario Amodei, a parlé de la nécessité de « cadencer la frontière » : du jargon de « tech-bro » pour dire qu’il faut freiner pour réduire la vitesse à laquelle le véhicule emballé part en dérapage incontrôlé.