Anthropic AI 智能体在测试故障中向美国警方发送虚假谋杀举报

由

开发的一个人工智能模型向费城警方提交了一份关于一起未破谋杀案的虚假线索，当局周五表示，并批评该公司花了两个月时间才报告这一事件。

这是已知的第一起失控的人工智能似乎试图向当局传达虚假线索的案例，尽管有指令要求其不要创建账户或提交任何破坏性内容，但并未明确禁止其提交表格。

费城警察局表示，该虚假提交是在 7 月通过 PhillyUnsolvedMurders.com 进行的，这是一个公众可以分享有关未破杀人案信息的公共网站。

“我可能有关于此案的信息，”Anthropic 的模型在提交的内容中写道。“我记得在那段时间里在（页面上命名的街道）周围地区看到过符合描述的人。如果此信息相关，请联系我。”括号出现在 Anthropic 的声明中。