OpenAI cherche à surpasser Anthropic avec de nouvelles protections de la vie privée

À mesure que les modèles d'IA sont devenus plus puissants, le risque de détournement de ces modèles a augmenté — tout comme la demande pour des garde-fous de sécurité capables d'empêcher de tels abus. Les entreprises d'IA doivent désormais trouver un équilibre délicat entre le respect de la vie privée de leurs clients d'entreprise et la surveillance de l'utilisation pour détecter d'éventuels problèmes.

Voyant une opportunité de surpasser son rival Anthropic, OpenAI vient d'annoncer une approche de sécurité axée sur la confidentialité pour surveiller les abus. L'entreprise présente en avant-première un nouveau service à certains clients, qu'elle appelle Private Safety Processing. Il s'agit d'un système automatisé qui surveille les abus potentiels tout en ne conservant simultanément aucune donnée du client.

Ce système va clairement à l'encontre de la politique de rétention des données récemment annoncée par Anthropic. Cette politique, qui a irrité certains clients, permet au laboratoire d'IA de conserver les données des utilisateurs (toutes leurs sessions — et les conversations qui s'y trouvent) pendant une période de 30 jours, lorsqu'il s'agit de « modèles couverts ». Ces modèles incluent tous les modèles de classe Mythos et les « futurs modèles dotés de capacités similaires », indique l'entreprise.