Les agents d'IA de la santé échouent, un tiers à cause de l'exposition de données privées

La santé est l'un des secteurs les plus prudents en matière d'intelligence artificielle, mais la prudence n'a pas empêché les échecs. Trois prestataires sur 4 ont déjà dû désactiver un agent d'IA gérant les messages des patients. Ce qui échoue réellement se situe plus profondément que l'IA.

Nous sommes à quelques jours de votre rendez-vous chez le médecin et, « Ding ! », votre téléphone sonne avec un SMS de rappel. Quelques jours plus tard, vous recevez une notification indiquant que votre ordonnance est prête. Ensuite, une autre arrive pour dire que vos résultats d'examen sont disponibles dans l'application. Le secteur de la santé génère exactement le type de communication répétitive et à haut volume pour lequel les agents d'IA ont été conçus, et il les met déjà au travail.

Mais l'utilisation de l'IA dans les communications avec les patients se complique dans un secteur régi par des préoccupations de confidentialité des données et de conformité. Les prestataires médicaux ont le devoir moral de protéger leurs patients, y compris leurs données, et ne pas le faire est d'une gravité extrême. Des dossiers médicaux divulgués peuvent facilement tomber entre des mains criminelles, entraîner de lourdes amendes juridiques et aboutir à une rupture permanente de la confiance des patients. Et pourtant, les risques n'ont pas découragé l'industrie.