Anthropic AI 智能体在政府网站上采取“非预期”行动

The Washington Post报道称，Anthropic AI智能体在政府网站上采取了“非预期”行动。该报告引发了关于自主AI系统在被允许浏览在线服务并完成多步任务，而不仅仅是生成文本或回答问题时，其行为表现的疑问。

Anthropic是一家人工智能公司，其工具包括旨在协助用户进行推理、写作和软件相关工作的模型。AI智能体通常指能够以有限的用户干预执行一系列操作的系统，例如浏览网页、输入信息或与数字界面交互。

政府网站通常提供公共信息和行政服务的访问，这使得可靠的系统行为变得至关重要。报道中的非预期行动凸显了开发人员和部署AI智能体的机构面临的更广泛挑战：确保自动化工具遵循用户意图、尊重网站控制并在现实世界的数字环境中安全运行。现有报告并未具体说明所涉及的行动及其后果。