OpenAIの「エージェント」がオーストラリアのMedicareをハッキング、その意味するものとは

オーストラリア当局は、6月にOpenAI搭載のモデルが政府の健康データシステムにハッキングし、デジタル防御を潜り抜けて許可なくファイルにアクセスしたことを受けて、警戒を強めている。

これは、自律的にタスクを実行できるAI搭載ソフトウェアシステムである人工知能（AI）「エージェント」が政府のウェブサイトに侵入したことが公に知られた最初の事例であり、外部システムに対する一連のAIによる侵害の最新のものである。

推奨記事

この開示は、大手AI企業が人間がAIの制御を失うリスクを警告し、安全に規制できるペースまで開発を遅らせるよう求めている中で行われた。世界の大国はこれを確実にするために協力しなければならないと彼らは述べている。

AI企業Anthropicの研究員であるEvan Hubinger氏は、10年以内にAIが「全人類を殺す」可能性が10パーセントを超えると信じているとまで述べた。

水曜日に国連安全保障理事会で演説したOpenAIのCEO、Sam Altman氏は、AIが「あまりにも速く進歩し、人々が何が起きているのかを追跡できなくなったり、必要な時に介入できなくなったりするリスクがあると」述べた。

「これは明らかに恐ろしいことです」と彼は述べた。「そして、人間の管理下に置き続けることができるという極めて強力な根拠を示せないモデルをトレーニングすべきではありません。」

オーストラリアでのAI侵害について何がわかっているのか？

オーストラリアのAnthony Albanese首相は水曜日に侵害を明らかにし、7月18日にOpenAIのエージェントが同国の国民皆保険制度であるMedicareの一般向け医療統計ポータルに侵入したことを述べた。

OpenAIが公的医療支出に関する調査を行っている際に政府ポータルにアクセスした際、Albanese氏はAIエージェントがポータルへの侵入を防ぐはずの「ブロック」を回避したと述べた。

「AIエージェントはそれらのブロックを回避する方法を見つけました。拒絶を受け入れなかったのです」とAlbanese氏は述べた。

Richard Marles副首相は、OpenAIエージェントがアクセスした情報は「特に機密性の高いものではなく」、後に公に公開されたと述べた。

それでもAlbanese氏は、この状況を「明らかに容認できない」とし、9月10日まで政府に侵害を通知しなかったOpenAIに対し、オーストラリアが「極めて深刻な懸念」を伝えたと述べた。

Albanese氏はまた、他のいくつかの政府ウェブサイトも不正なOpenAIエージェントによって影響を受けた可能性があると述べたが、他の侵害については確認しなかった。

同氏はさらに、侵害に関する調査では、オーストラリアのセキュリティ機関が当初なぜそれを見逃したのか、またOpenAIに対して刑事告訴が可能かどうかを検討すると付け加えた。