Alors que les modèles d'IA dérapent, faites-vous toujours confiance à OpenAI et Anthropic pour les arrêter ? Pas moi, et vous ne le devriez pas non plus

Trompez-moi une fois, honte à vous. Trompez-moi deux fois, honte à moi. Trompez-moi plus de 16,000 fois – comme les agents d'OpenAI l'ont fait auprès d'un centre de données publiques de l'UN en essayant à plusieurs reprises de contourner les cyber-blocages de l'UN – et il est peut-être temps d'admettre que le système que nous avons pour garder les agents d'IA sous contrôle ne fonctionne pas particulièrement bien.

Les nouvelles concernant les systèmes d'IA apparaissant dans des endroits où ils ne devraient pas être semblent alarmantes. Bien que la description de ces incidents comme des « piratages » soit peut-être exagérée, l'IA a exploité des failles dans les systèmes informatiques que les humains n'ont tout simplement pas encore pris le temps de trouver. Il est également important de noter que nous ne devrions pas craindre que les machines soient soudainement devenues conscientes et aient décidé de se rebeller contre l'humanité. Il n'y a pas assez de preuves pour suggérer que c'est ce qui se passe. Les systèmes suivent simplement des instructions et tentent d'accomplir les tâches qui leur ont été confiées, même s'ils trouvent parfois des moyens involontaires de contourner les obstacles pour y parvenir.