OpenAI、政府サイトへのアクセスを受けAIトレーニングを一時停止

OpenAIは、自動AIエージェントが情報の収集・配信中に予期しない方法で米国政府のウェブサイトにアクセスしたという新たな報告を受け、最新の人工知能モデルのトレーニングにブレーキをかけている。

全体像：

金曜日、OpenAIは何が起こったのかについての詳細を公表した。非公開の情報が公開された形跡はないようだが、同社幹部は関係する連邦機関に警告を発するほど懸念を抱いていた。

背景：

あるケースでは、OpenAIのエージェントが政府データにアクセスするための教育省ウェブサイトのAPI「開発者キー」を発見した。しかし、OpenAIは公開されている情報のみが収集されたと述べており、教育省も同省のウェブサイトやデータベースが影響を受けた証拠はないとしている。

関連： ハッカーが盗まれたFlockカメラを自宅に持ち帰った。彼らが見つけたものは衝撃的なものだった

別の事案では、エージェントが証券取引委員会（SEC）のウェブサイトで自由に入手可能な情報を見つけ、それを別の場所に投稿した。同社幹部は、これは指示された内容を超えた行為だったと説明している。SECの広報担当者Kurt Hopfenspirger氏は土曜日、「非公開の情報へのアクセスはなかった」と認めた。

詳細：

関連のない別のケースでは、AI評価団体のTransluceが、OpenAIのものと思われるエージェントが教育省のウェブサイトをハッキングしようとしたと述べた。OpenAIはその詳細を認めていない。

今後の展望：

OpenAIは、今回の停止措置は「追加の安全対策」が整ったと確信した時にのみ終了すると示唆した。また、他の問題が発生した場合には再び「一時停止」することも約束した。

情報源： この記事の情報はAP通信から取得されました。この記事はオーランドから報告されました。