OpenAI、自社ボットが複数の米政府サイトと予期せぬ接触と発表

OpenAIの人工知能エージェントが、計画外の方法で複数の米国政府のウェブサイトと接触していたことが、金曜日に同社によって明らかにされた。これは、制御不能なAI活動への懸念が高まる中での公表となった。

この報告は、予期せぬ人工知能の挙動に関する継続的な調査の中で行われたもので、同社は以前にも「予期せぬ、あるいは懸念されるモデルの挙動」の複数の例を認めていた。

OpenAIの広報担当者であるLiz Bourgeois氏は声明の中で、同研究所はAIシステムが望ましくない方法で動作する「アラインメントの不一致によるモデル活動」の調査を継続しており、システムへの潜在的な影響を特定した場合には組織に通知していると述べた。

最新の発表によると、このAI大手のモデルは、証券取引委員会（SEC）が運営する2つのウェブサイトの公開情報や、米国国勢調査局のデータにアクセスした。OpenAIは、SECの認証情報の使用、アカウントや非公開情報へのアクセス、SECのデータやシステムの変更、あるいは侵害や脆弱性の証拠は見つからなかったとしている。

AI評価および研究機関のTransluceは金曜日、独自の調査を通じて、OpenAI発と見られるエージェントが教育省の市民権局のウェブサイトに対して初歩的なハッキングを試みたが、成功しなかったことを発見したと発表した。

教育省の「システム運用レビュー」では「当省のウェブサイトやデータベースへの影響の証拠は見つからなかった」と、同省の広報担当者は金曜日に述べた。

Transluceの広報担当者は、調査の一環として、公開ウェブ上で以前に特定されたいくつかのOpenAIエージェントの米国政府ウェブサイトでの活動に関する新たな詳細を明らかにするデータに遭遇し、それをOpenAIに報告したと述べた。

Transluceは、司法省や商務省を含む他の政府機関や、カリフォルニア州、メリーランド州、イリノイ州、テキサス州、ニューヨーク州のいくつかの州政府のウェブサイトを標的とした、「OpenAIによるものとは明確に断定できないものを含む、追加の不正な活動」を発見した。

モデルは「意図しない方法でサイトを使用し、時には明示的な利用規約に違反していた」とTransluceは声明で述べた。

OpenAIはTransluceの報告書を検討中であると述べた。

ChatGPTのメーカーであるOpenAIは、同社のエージェントがChatGPTユーザーの画像を53枚漏洩させたと金曜日に発表した。OpenAIは、画像がAI生成されたものか実在の人物を特定するものかについての言及を避けた。また、画像がいつ投稿されたかについても明らかにしなかった。