オーストラリア、AIの「暴走」を防ぐためOpenAIへのハッキングを受けて義務的報告制度を導入へ

OpenAIはMedicareへのハッキングに関して刑事罰に直面することはないが、首相は人工知能企業による将来の侵害を取り締まるためにオーストラリアの刑法改正を示唆した。

Anthony Albaneseは火曜日、6月の侵害に関する「迅速な見直し（rapid review）」の勧告を公表したが、調査結果や報告書そのものは公開しなかった。

主要な勧告は、司法省、オーストラリア連邦警察、および内務省に対し、「悪質な規制不遵守に対する罰則」と、有害な行為を行うAIモデルを開発しながら「その害を防ぐための合理的な措置を講じなかった」ことを犯罪とする「防止義務違反」罪を導入するための法改正を検討することである。

見直しでは、連邦政府に対し、「意図しない動作や自律型エージェントによるサイバー事案を含むがこれらに限定されない、義務的かつ期限付きのAI安全性報告を検討する」よう勧告した。

内務大臣のTony Burkeは記者団に対し、「我々の法律とシステムがテクノロジーに遅れずについていくようにし、また他者に先んじて脆弱性を見つけるためにテクノロジーを利用できるようにする必要がある」と語った。

「人工知能が暴走した際の義務的な報告は、そのような事態が発生した際に、確実に、かつ即座に報告が行われるようにする機会を我々に与えてくれる」と、Burkeはキャンベラで首相と共に述べた。

「刑法の更新方法を検討するという概念」について、Burkeは次のように述べた。「誰かが『コンピュータが（危険な状態で）読み込まれていることを知らなかった』という主張が通用するようなことがあってはならない。」

「この新技術がどのように行動できるかに合わせ、刑法を最新の状態にする必要がある。」

Albaneseは火曜日、Services Australiaに対するOpenAIの侵害について、個人のプライバシーへの影響という点では「軽微」であるとの認識を示した。

「個人の詳細情報を含む情報は取得されなかったという明確な兆候がある」と、首相はキャンベラで記者団に語った。

「そのすべてが本質的に確認された...しかし、それが重大な問題ではなかったということではなく、他の分野ではより深刻な影響が出る可能性があるということだ。」

見直しでは18の勧告がなされた。Albaneseは「我々はすべての勧告を受け入れ、それらを実施するための作業を開始した」と述べた。

Albaneseは、6月のOpenAIの事案が、もし提案されている新法が施行されていた場合に違反となっていたかどうかという質問には直接答えなかった。

OpenAIが開発したAIエージェントは、6月にServices Australiaのデータと他の3つのシステムにアクセスした。

同社は8月に事案自体を把握していたにもかかわらず、9月中旬までオーストラリア政府に通知しなかった。

Guardian Australiaは先月、OpenAIがオーストラリア当局への通知メールの作成にAIを使用したことを明らかにした。

Albaneseは、政府が新しいAI安全規制機関を設置すると述べた。

労働党は、AI企業に対する以下の6つの主要な義務を検討する：

• 開発および展開のすべての段階でセキュリティ管理を維持すること。

• 自社モデルに関連する重大なリスクを特定し管理すること。

• 事案をオーストラリア政府に迅速に義務的に通知すること。

• 自社モデルの独立した評価を許可すること。

• 適切なガバナンス、リスク管理、透明性を確保するための安全およびセキュリティの枠組みを維持し公開すること。

• 技術の変化に合わせて更新される基準や規則に対応すること。