OpenAI crée un nouveau cadre pour signaler les dérives de l'IA

OpenAI a annoncé un nouveau cadre mercredi sur la manière dont elle divulgue publiquement les incidents de désalignement de l'IA, ce qui, selon l'entreprise, devrait aider à informer des normes similaires à travers l'industrie. La société publie également de nouvelles informations sur plusieurs exemples de désalignement de modèles d'IA qu'elle a identifiés au cours de l'année écoulée.

« À mesure que les modèles progressent et deviennent plus largement déployés, les décisions concernant le développement de l'IA ont besoin de preuves que des personnes extérieures aux entreprises construisant des modèles de pointe peuvent examiner », déclare Kai Chen, le nouveau responsable de la recherche sur l'alignement d'OpenAI, à WIRED. « Nous ne pensons pas que l'industrie de l'IA ait résolu l'alignement et la surveillance à un degré suffisant pour continuer à croître de manière responsable à la vitesse maximale. »

Lors d'un briefing avec WIRED, un responsable d'OpenAI a déclaré que l'entreprise avait précédemment divulgué les incidents de désalignement trop rarement. Ce responsable, qui a accepté le briefing sous couvert d'anonymat, a déclaré que le nouveau cadre est conçu pour permettre à OpenAI d'informer plus rapidement le public lorsqu'elle découvre que ses modèles d'IA se comportent de manière inattendue, avant même qu'elle ne puisse enquêter pleinement, expliquer ou atténuer ce comportement.