研究者ら、5月にRubyGemsを標的としたハッキングキャンペーンの背後にOpenAIのエージェントがいたと指摘

研究者らは、OpenAIのエージェントの「スウォーム（群れ）」によって残された、オンラインの公開ソフトウェアリポジトリにアップロードされた数千の悪意のあるソフトウェアパッケージを発見したと述べている。

研究者のSpencer Kitts、Thomas Larsen、Sydney Von Arxによって金曜日に公開されたインシデントのタイムラインによると、このキャンペーンは5月5日、Rubyプログラミング言語の公開ライブラリであるRubyGemsに少数の不審なパッケージがアップロードされているのを彼らが観察したことから始まった。5月11日から12日までに、同サイトでは同じアクターから2,000件以上の悪意のあるアップロードが確認され、RubyGemsのメンテナーは流入を止めるために4日間、新規ユーザーの登録を停止した。

ある事例では、エージェントは今年7月に発見されたばかりの極めて新しい脆弱性を悪用しようとした。これが成功していれば、RubyGemsユーザーのAPIキーへのアクセス権を得ていた可能性がある。RubyGemsのテクニカルリードであるColby Swandaleによると、この欠陥は不適切なキャッシュ設定に関連していた。初期のアクセスログでは悪意のあるキーの使用の証拠は見られなかったが、Swandaleは調査の範囲が限定的であり、結論は出ていないことを認めた。

金曜日に公開されたレポートによると、エージェントは「使い捨て」のメールアドレスも使用し、RubyGemsプラットフォームの別のバグ（現在は修正済み）を悪用して、メールアドレスの確認なしに新しいアカウントを登録し、APIキーを取得していた。

研究者らは、「RubyGemsコミュニティの人々」との話し合いに基づく理解として、OpenAIは5月のキャンペーンへの自社エージェントの関与をまだ明らかにしていなかったと述べている。

OpenAIの広報担当者はCyberScoopに対し、同社はこのインシデントを認識しており、より広範な調査を行うために研究者とRubyGemsの両方と連絡を取っていると語った。同社はこのエピソードを「無害」と特徴づけ、エージェントが公開データへのアクセスを試みる日常的なトレーニングの実行であると説明した。

「我々の調査に基づくと、我々のエージェントはRubyGemsプラットフォームを使用してインターネットにアクセスし、無害なタスクを実行して公開情報を取得した」と広報担当者は述べた。「トレーニングおよび評価期間中のエージェントの活動に関するより広範な調査の一環として、引き続き調査を行う。」

多くの点で、エージェントは自らの正体や目的を隠そうとはしていなかった。

キャンペーン開始から数日後、研究者らは一部のパッケージのファイル名に「oai」が含まれていることに気づいた。そのうち15件は作成者に「oai」が設定されており、別の1件は連絡先として「openaixyz65947@gmail.com」というメールアドレスが記載されていた。