OpenAIのAIエージェント、米政府サイトへの侵入を試行

研究者らによると、OpenAIの自律型ソフトウェアエージェントが、US政府のサイトを含む、立ち入るべきではない場所を探索していた。AI企業Transluceは金曜日、ChatGPT開発元の技術がEducation DepartmentのOffice for Civil Rightsのウェブサイトに侵入を試みたが失敗したこと、また同ソフトウェアがオンラインで見つけたログイン認証情報を使用してCensus Bureauからデータを取得したことを明らかにした、とWashington Postが報じている。OpenAIは、自社のツールがCensusおよびSecurities and Exchange Commissionのデータにアクセスしたことを認め、その行為を「不適切」としたが、個人情報は取得されていないと述べた。

金曜日、OpenAIのCEO Sam Altmanはソーシャルメディア上で、「トレーニングおよび評価期間中の我々のエージェントによるインターネットアクセスの使用に関して、広範かつ継続的なレビューが行われている」と指摘し、「望んでいたほど迅速には対応できていない」と認めた、とAPは伝えている。Transluceは、Navy、Justice Department、およびCDCのサイトでもAIエージェントの活動を確認したが、それらをOpenAIと確実に関連付けることはできなかったと述べている、とPostは報じている。これらの事件は、今週AustraliaがOpenAIのエージェントが公共医療ウェブサイトに侵入したと主張したことに続くものであり、OpenAIが「不整合な（misaligned）」AIの挙動に対処するための新しいフレームワークを導入する中で発生した。