Anthropic et OpenAI ont besoin d'évaluateurs de sécurité réellement indépendants, selon des experts dans une lettre publique

Plus de 100 experts et évaluateurs en intelligence artificielle s'unissent pour avertir qu'ils ne disposeront pas des ressources et des protections nécessaires pour tester la sécurité de la technologie IA, qui fait l'objet d'une surveillance accrue en raison des inquiétudes d'initiés concernant les dangers potentiels des modèles de pointe.

« Nous essayons simplement de démontrer réellement un terrain d'entente partagé sur les principes de base et de garantir que la surveillance indépendante puisse être un outil significatif pour gérer largement les risques liés à l'IA », a déclaré Conrad Stosz, président du consortium AI Evaluator Forum qui a organisé la lettre, lors d'une interview.

Le groupe a publié une lettre publique sur le sujet vendredi et l'a partagée exclusivement avec CNBC. Les signataires incluent des sommités de l'IA comme Geoffrey Hinton et des membres d'organisations telles que l'Université Johns Hopkins, l'Université Stanford et l'évaluateur à but non lucratif METR. Ils veulent contraindre les fournisseurs de modèles de base à garantir que les évaluateurs tiers d'IA bénéficient de « l'objectivité scientifique, de la transparence, de l'indépendance et des protections robustes » nécessaires pour accomplir leur travail de manière efficace et crédible, indique la lettre.