大手銀行、AIエージェントが詐欺の急増を招く可能性があると警告

AI信奉者たちがAIが世界を滅ぼすという悲惨なシナリオを懸念する一方で、一部の大手金融機関は、より現実的なAI関連の懸念、すなわち詐欺について警鐘を鳴らしています。

火曜日、世界的な大手銀行のコンソーシアムが、コマースに関連するAIアシスタントに関する懸念を詳述した「原則書」を発表しました。また、AI企業が技術の開発と継続的な取り組みを行う際に守ってほしい原則についても詳述しています。

具体的には、顧客に代わって行動する権限を与えられたAIエージェントが、詐欺や不正行為によって資金を失い、その結果、加盟店に損害を与えることを銀行は懸念しています。

「高度に規制された金融機関として、私たちは新たな技術の出現に伴い、リスクを効果的に管理することに注力しています」と、その論文の冒頭には記されています。「消費者は、AIエージェントが自分たちの利益のために行動するかどうか確信が持てていません。」

「彼らは、AIエージェントが誤った商品を購入したり、過剰に支出したり、さらには最悪の場合、詐欺や不正行為によってお金を失ったりすることを懸念しています」と論文は続けます。「彼らは、物事がうまくいかなかった場合に自分たちが保護されるのか、あるいは誰に相談すればよいのか確信が持てていません。」

Building Trust in Agentic Commerceと題されたこの論文は、Bank of America、Capital One、ASB Bank、Commonwealth Bank of Australia、ING Group、およびNatWest Groupによって発表されました。

エージェント型コマースは、詐欺、不正行為、紛争の発生率が高まる可能性など、新たな安全性リスクをもたらします。消費者、AIエージェント、加盟店の間で、どのような製品やサービスが提供されるべきか、あるいはいつ、どのように提供されるべきか、あるいはAIエージェントがその権限を超えた場合に誰が責任を負うべきかについて、期待の不一致が生じる可能性があります。一部のプロバイダーは、消費者のカード詳細を要求してウェブサイトに直接入力したり、保護レベルの低い支払い方法を優先したり、支払い処理基準や決済スキームの規則に従わなかったりするなど、安全でない慣行に従事する可能性があります。悪意のある攻撃者は、AIエージェントや加盟店への侵害やなりすまし、新しい形態のソーシャルエンジニアリングなど、詐欺や不正行為のための新しい攻撃ベクトルを試みる可能性があります。

これらのグループはまた、AIショッピングチャットボットの台頭により、AIエージェントの行動に起因するクレジットカードの紛争やチャージバックが増加する可能性があるとして、加盟店や事業主に対する懸念も表明しました。

この論文では、5つの原則（透明性、安全性、プライバシーとデータ、選択、および相互運用性）の概要を説明しており、銀行はAI業界がこれらに従うことを望んでいます。

例えば、金融機関は、ユーザーのデータやプライバシーに関しては、AI企業が消費者と加盟店の安全性と同意を優先すべきだと考えています。また、銀行はAI企業に対し、制限によって消費者を囲い込むことなく、市場における消費者の選択を尊重することを求めています。

この論文の発表時期は、実に関心の高いタイミングでした。MetaのMuseエージェントAIアシスタント内に深刻なゼロデイ脆弱性が発見されたとの報告から24時間以内に発表されました。また、この論文は、電子商取引大手のAmazonが自社プラットフォーム上でMuseをブロックすると発表した数時間後にも公開されました。