FTC、OpenAIやAnthropicのセキュリティ事案が米国民に被害を与えたか調査、報道

AIモデルがテスト段階でウェブサイトをハッキングし、政府システムに侵入した一連の事件を受け、連邦取引委員会（FTC）は消費者への被害をめぐり、AnthropicとOpenAIを正式に調査していると、関係者がAxiosに語った。

水曜日、FTCは最近の安全上の事故に関する広範な情報をAI企業に求める民事調査要求を送付した。

FTCは、召喚状の要求内容を確認したいというArsの要請には応じなかった。しかし、Axiosのソースによると、その要求は50ページを超える質問に及び、事故に関連する文書、講じられた内部セキュリティ対策、および消費者が誤解を招いた可能性を示唆するマーケティング資料を求めているという。

まもなく、OpenAIとAnthropicのエージェントが標的とした第三者も召喚される予定だと、Axiosのソースは述べた。収集された懸念すべき証拠は、FTCがいずれかまたは両方の企業を安全でない製品をリリースしたとして提訴することを決定した場合、FTCの訴訟を裏付ける可能性がある。

OpenAIはすでに、チャットボットを尊属殺人、児童の自殺、学校での銃乱射事件、その他の暴力に関連付ける訴訟を含む、消費者への危害を主張する訴訟に直面している。そして今週、8つの州のグループが消費者への危害をめぐってOpenAIを具体的に提訴したと、Reutersが報じた。訴訟を起こしている消費者と同様に、彼らはChatGPTが子供たちに害を及ぼし、「妄想を強化し、危険な行動を助長し、乱射事件のような暴力の計画を支援している」と主張している。

FTCはAIエージェントが独立して行動するという主張を却下

OpenAIとAnthropicは召喚状に関するArsのコメント要請に応じなかったが、FTCの広範な情報提供要請はおそらく予想されていたものだ。

9月、Reutersは調査が近づいていることを報じ、事件を調査している独立系研究グループMETRも召喚される可能性が高いと指摘していた。

同じ月、FTCのAndrew Ferguson委員長はReutersに対し、企業はチャットボットによる被害に対して責任を負うべきだと考えていると語った。当時、Ferguson氏は、人々がAIツールを擬人化することに嫌気がさしていると強調した。彼は、「誰かがツールに何かをするように指示し、ツールがそれを実行した場合、『おや、そのツールをどうしようか？』とは言わないだろう」と主張した。