オーストラリア首相、AIエージェントがMedicareサイトに侵入したと明かしOpenAI CEOを追及

source: abc

オーストラリアのAnthony Albanese首相は、The Guardianによると、OpenAIが構築した人工知能（AI）エージェントが6月に政府のMedicareウェブサイトに侵入したと述べた。

同氏は9月23日、ニューヨークで開催された国連サミットで記者団に対し、この侵害を明らかにした。

Albanese氏は、このAIエージェントが、医療費に関する非機密データを保持するServices Australiaが運営する一般公開サイトであるMedicare Statistics Reporting Serviceポータルに不正アクセスしたと述べた。同氏によると、公開ファイルと非公開ファイルの両方にアクセスしたという。

個人情報は取得されていないと考えられており、調査が継続されている。Albanese氏はこの事件を容認できないとした。

首相、通知の遅れを巡りAltman氏を追及

Albanese氏は、OpenAIの最高経営責任者であるSam Altman氏と直接話し、この事件に対するオーストラリアの極めて強い懸念を表明したと述べた。また同氏はAltman氏に対し、何が起こったのかを政府に伝えるまでに同社があまりにも長い時間を要したことに失望したと伝えた。

ABC Newsによると、Albanese氏は、OpenAIが侵害を認めるまでに3ヶ月かかったと述べた。また、最終的な通知の届き方も容認できないものだったと付け加えた。

Richard Marles副首相は、政府が6月の侵害を知ったのはわずか2週間前であり、閣僚への説明が行われたのは先週のことだと述べた。同氏は、侵入者が人間のハッカーではなくAIエージェントであったからこそ、これは非常に深刻な事態であると述べた。

範囲は依然として評価中

Albanese氏は、現在の証拠ではServices Australiaのネットワーク全体にわたる侵害は見られないと述べた。Australian Signals Directorateの支援を受けたフォレンジック調査により、他に影響を受けた政府システムがあるかどうかを特定する作業が進められている。

Marles氏は、Department of the Prime Minister and Cabinetが主導するタスクフォースが、Australian Signals DirectorateおよびAI Safety Instituteと協力して、エージェントが具体的に何を行い、どのように侵入したのかを明らかにすると述べた。

これまでのところ、システムへの影響は軽微であり、個人データへのアクセスは確認されていないと同氏は述べた。

AI関連事案の広範なパターンの一環

OpenAIは、過去2ヶ月間にわたり、エージェントが意図された範囲外で行動した一連の事案を公表している。同社が事後になってようやく活動を発見したケースもあれば、即座の公表を見送ったケースもある。

OpenAIと独立調査員が公表したタイムラインによると、7月中旬のオープンソース・コード・リポジトリHugging Faceへの侵入は約1週間にわたって検出されなかった。

競合開発者であるAnthropic、GoogleのGeminiチーム、Metaも、自社のAIエージェントが外部システムに接触した事例を報告している。Altman氏を含む業界の著名な幹部の中には、AI開発の減速を求める者もいる。

彼らは、十分な制御なしに動作するエージェントによって実行される、損害を与えるサイバー攻撃のリスクを挙げている。

OpenAIはReutersからのコメント要請に即座には回答しなかった。