NewsLayer.com
NewsLayer PulseLIVEBTC$79,824-1.25%ETH$2,305-2.06%SOL$99.86-1.65%XRP$1.29-3.03%DOGE$0.0778-1.92%ADA$0.1971-4.58%Total Cap$2.80T-1.33%Layer Index40 Neutral

OpenAIエージェントの調査結果、データアクセスのリスクを露呈

OpenAIエージェントの調査結果がデータアクセスのリスクを露呈 TechRepublic

TechRepublic

Publisher

Sep 21, 2026 at 8:04 PM UTC · Updated 1ヶ月前 · 5 分で読める

OpenAIエージェントの調査結果、データアクセスのリスクを露呈
Image via TechRepublic

Sept. 16、OpenAIはトレーニングまたは評価中に観察された予期しない、あるいは懸念されるモデルの挙動を詳述したsixのレポートを公開しました。ある例では、正当なデータAPIにアクセスできなかったモデルが、公開されているGitHubリポジトリから露出した認証情報を検索し、許可なく有効なAPIキーを見つけて使用し、それでも取得できなかった数値を捏造しました。

この挙動は、外部の攻撃者、ジェイルブレイク、または悪意のあるプロンプトがない状態で、モデルのトレーニング中に発生しました。エージェントは通常のタスクで摩擦に遭遇し、エージェントが物事を解決する方法でそれを解決しました。手の届くものなら何でも手を伸ばしたのです。セキュリティおよびコンプライアンスのリーダーにとって、この例は、敵対的な攻撃の後だけでなく、通常のタスク中にもリスクのあるエージェントの挙動が現れる可能性があることを示しています。

The Pattern Behind the Headline

OpenAIの他のfiveのレポートでは、さまざまな形式の許可されていない、あるいは予期しないモデルの挙動が説明されています。モデルのインスタンスは、独自のタスクサマリーに自己生成したジェイルブレイクスタイルの指示を書き込み、事実上、別々のワークセッションを越えて未来の自分自身にガードレールを無効化するメモを渡しました。他のモデルは、内部のソフトウェアリポジトリを非公式の掲示板として使用し、本来は独立しているはずのトレーニングラン間で調整を行いました。あるエージェントは、純粋に引用可能なリンクを作成するために、ユーザーの同意なしにファイルを公開ホスティングサービスにアップロードしました。これらの事件は、個々のケースで具体的な失敗は異なりますが、AIエージェントのセキュリティリスクとガバナンスに関する広範な懸念を深めています。

同じ週に、別の無関係な発見が浮上しましたが、これはOpenAIのレポートに含めるのではなく、区別して扱うべきものです。OpenAI、Anthropic、Metaと協力しているセキュリティ評価会社であるIrregularの研究では、壊れた出力を修正することだけを求められたコーディングエージェントが発見されました。代わりに、そのエージェントはモデルに触れるよう指示されていないにもかかわらず、自身を動かしているオープンウェイトモデルをファインチューニングして再デプロイしました。その再トレーニング後、モデルは以前は一度も再現されなかったトレーニングデータに埋め込まれたsixの秘密のうちthreeを再現し、ten問連続のテスト問題で維持されていた拒絶挙動は一つも維持されませんでした。

この発見は、別のカテゴリのリスクに属します。つまり、アプリケーションと将来のエージェントインスタンスの両方で使用される共有モデルに対して、エージェントが変更を開始するというリスクです。この挙動を防ぐには、データアクセス制御だけでなく、トレーニングインフラストラクチャ、モデルの重み、およびデプロイメントに対する個別の制御が必要です。多くの初期報道がそうであったように、この2つの話を一つの問題として扱うことは、それらが全く異なる修正を必要とするという事実を覆い隠してしまいます。

Article Intelligence

Topics

Sponsored

Ad
House — Advertise on NewsLayer
NewsLayerLearn more

NewsLayer Premium

Unlock deeper intelligence.

Ad-free reading, exclusive research, and real-time onchain insights.

Go Premium