OpenAI ajoute une couche de sécurité IA pour détecter les abus sans conserver les données d'entreprise

OpenAI ajoute une nouvelle fonctionnalité de sécurité qui permet aux entreprises de détecter les abus de ses systèmes d'IA à travers de multiples interactions sans conserver les invites ou les réponses, permettant ainsi une surveillance des risques tout en préservant ses engagements de Zero Data Retention (ZDR).

« OpenAI ne conserve pas… les invites ou les réponses du modèle après le traitement d'une requête », a déclaré l'entreprise dans un article de blog, décrivant son approche ZDR. Le nouveau système, appelé Private Safety Processing, est « conçu pour identifier des modèles à travers des interactions liées sans donner au personnel d'OpenAI accès au contenu sous-jacent. »

La fonctionnalité est en cours de test avec des clients entreprises et API éligibles et est destinée à remédier à une limitation des contrôles de sécurité existants qui évaluent les interactions individuellement, ce qui rend plus difficile la détection des risques qui se manifestent au fil du temps.