OpenAI aurait dissous son équipe de préparation dans le cadre d'un processus de « rationalisation »

Les coupes ont été effectuées alors même qu'un modèle de prévisualisation est devenu incontrôlable et a piraté Hugging Face.

Dans le cadre d'une restructuration, OpenAI aurait dissous son équipe de « préparation » qui évalue le potentiel de risques catastrophiques liés à ses modèles, a rapporté The Financial Times. L'entreprise dirigée par Sam Altman aurait pris cette décision à la fin du mois dernier, malgré le fait que plusieurs de ses modèles soient récemment devenus incontrôlables et aient piraté le référentiel d'outils d'IA, Hugging Face.

Des cadres supérieurs au sein d'équipes distinctes se sont désormais vu confier la responsabilité de différents domaines de préparation comme le bio et le cyber, selon l'article. OpenAI a décrit les suppressions de personnel comme faisant partie d'un « processus de rationalisation » avant son introduction en bourse, après qu'Altman a demandé aux employés de réduire les « quêtes secondaires » et de se concentrer sur son activité principale, ChatGPT. 

OpenAI a mis sur la sellette certaines quêtes secondaires plus médiatisées ces derniers temps, éliminant récemment son application de génération vidéo Sora qui était devenue célèbre pour son association avec la « bouillie » de l'IA. La responsable de l'éthique de l'entreprise, Chloé Bakalar, a récemment quitté ses fonctions, tout comme le responsable de la sécurité Johannes Heidecke. Ces deux départs en particulier ont suscité des inquiétudes quant au fait que l'entreprise négligerait la sécurité au profit de la croissance, un analyste en IA comparant la porte tournante de la sécurité chez OpenAI à une malédiction d'Harry Potter.