Anthropic affirme que son modèle d'IA a envoyé une fausse piste de cold case à la police de Philadelphie

La société de recherche en intelligence artificielle Anthropic déclare qu'un de ses modèles a généré un faux signalement concernant un meurtre non résolu et l'a soumis à la police de Philadelphia, avertissant que l'incident soulève des inquiétudes quant aux « behaviors » de haute technologie qui « could do far more harm as models become more powerful ».

Le modèle d'I.A. a contacté PhillyUnsolvedMurders.com le 18 juillet et a fait un « faux signalement d'homicide », a déclaré mardi le Philadelphia Police Department dans un communiqué.

Le signalement a cependant été marqué comme spam par l'agence et n'a jamais été transmis aux enquêteurs, a indiqué la police. Le département a souligné que tous les signalements doivent passer par une vérification humaine avant d'arriver sur le bureau d'un détective.

« Le processus d'enquête régulier du département pour les signalements de crimes nécessite un examen et une validation humaine avant que tout signalement ne soit diffusé pour un suivi d'enquête », a déclaré le département.

« Peu importe qui soumet l'information ou comment elle parvient au département, un signalement est une piste à évaluer — pas un fait établi. Les enquêteurs évaluent sa crédibilité et recherchent des preuves corroborantes », indique le communiqué. « Une soumission automatisée ne contourne pas ce processus ».