Le responsable de la sécurité d'OpenAI démissionne, avertissant que la culture de l'entreprise est « brisée »

Un responsable de la sécurité chez OpenAI a quitté l'entreprise, avertissant que sa culture était brisée et que les entreprises d'IA n'étaient pas « assez prudentes » quant au développement de la technologie.

David Robinson, qui a dirigé la rédaction des rapports de sécurité accompagnant les lancements de produits du développeur de ChatGPT, a expliqué sa démission dans un essai intitulé « J'ai quitté OpenAI parce que sa culture est brisée ».

Robinson a écrit qu'une refonte culturelle était nécessaire dans les entreprises d'IA de pointe et que des incidents tels qu'un « essaim » d'agents OpenAI – des programmes d'IA fonctionnant de manière autonome sans supervision humaine – attaquant la startup d'IA Hugging Face étaient « typiques de l'industrie, compte tenu de la rapidité et de la flexibilité avec lesquelles les gens opèrent ».

Écrivant dans The Atlantic magazine, Robinson a écrit : « Je suis d'accord avec d'autres membres du personnel récemment partis sur le fait que les entreprises qui construisent cette technologie ne sont pas du tout assez prudentes. Mais je pense que nous devons regarder plus loin que les règles spécifiques ou les nouvelles lois. Nous devons parler de culture. »