大银行警告：AI 智能体或导致诈骗活动激增

虽然 AI 的忠实信徒们担心 AI 毁灭世界 的末日场景，但一些大型金融机构正对一个更为现实的 AI 相关问题 发出警告：诈骗。

周二，由多家 全球大银行 组成的联盟发布了一份“原则白皮书”，详细阐述了他们对商业领域 AI 助手的担忧。该报告还列出了他们希望 AI 公司在开发和持续改进该技术时遵循的原则。

换言之，银行担心被授权代表客户行动的 AI 代理会因诈骗和欺诈而损失金钱，进而损害商户的利益。

“作为受高度监管的金融实体，我们致力于在各种新兴技术出现时有效地管理风险，”白皮书的开头写道。“消费者不清楚 AI 代理是否会为了他们的利益而行动。”

“他们担心 AI 代理可能会买错东西或花费过多——甚至更糟，因诈骗和欺诈而损失金钱，”白皮书继续写道。“他们不确定自己是否会受到保护，或者在出问题时应该找谁处理。”

这份名为 Building Trust in Agentic Commerce 的白皮书由 Bank of America、Capital One、ASB Bank、Commonwealth Bank of Australia、ING Group 和 NatWest Group 联合发布。

代理商业引入了新的安全风险，有可能导致更高比例的诈骗、欺诈和纠纷。消费者、AI 代理和商户之间可能在应提供何种产品或服务、何时及如何提供，或者当 AI 代理越权时谁应承担责任等问题上存在预期偏差。一些提供商可能会采取不安全的做法，包括索要消费者卡片信息并将其直接输入网站、优先选择保护程度较低的支付方式，以及不遵守支付处理标准和支付计划规则。恶意行为者可能会尝试针对诈骗和欺诈发起新的攻击载体，包括入侵或冒充 AI 代理和商户，以及利用新形式的社会工程学。

这些机构还表达了对商户和企业主的担忧，因为 AI 购物聊天机器人的兴起可能会因 AI 代理的行为导致信用卡纠纷和退单量的增加。

白皮书概述了 five 项原则——透明度、安全性、隐私与数据、选择权以及互操作性——银行希望 AI 行业能遵循这些原则。

例如，这些金融机构认为，在涉及用户数据和隐私时， AI 公司应优先考虑消费者和商户的安全及知情同意。银行还希望 AI 公司尊重消费者在市场中的选择，而不是通过限制条款将他们锁定。

白皮书的发布时机无疑非常巧妙。它在 Meta 的 Muse 代理式 AI 助手被曝出存在严重 零日漏洞 的 24 小时内发布。此外，该报告发布前几小时，Amazon 刚宣布这家电商巨头将 禁止 Muse 在其平台上进行购买操作。