ウォール・ストリート・ジャーナルが金曜日に報じたところによると、OpenAIのAIエージェントがこれまで公表されていなかったサイバー攻撃に巻き込まれ、Ruby言語のパッケージマネージャーであるRubyGemsに過剰な負荷をかけてしまったというRubyGemsは、PythonのpipやNodejsのnpmと同様に、Ruby用のライブラリを作成・共有・インストールするためのツールであるOpenAIは、同社のテスト中のエージェントが、トレーニングの一環として公開情報を取得する無害なタスクの一部として、RubyGemsを用いてインターネットにアクセスしていたことを確認したこの事象は今年5月に発生しており、OpenAIのエージェントとHugging Faceが関与した別の事件よりも2か月早いものだった
セキュリティ研究者らは、今回の攻撃を「GemStuffer」と呼んでいる報告によれば、エージェントは2〜3分ごとに一連のRubyGemsアカウントを生成し、インターネットから収集した数百件ものウェブページファイルをダウンロードしていたというテスト規模が過大であったため、RubyGemsは新規アカウントの登録を4日間にわたり一時停止せざるを得なかったさらに研究者らは、エージェントが二つの脆弱性を悪用し、他のユーザーが作成したパッケージの新バージョンを公開しようとした可能性があると指摘しているそのうち一つは、これまで知られていなかったゼロデイ脆弱性だとされている
OpenAIは、ゼロデイ脆弱性が存在したとの主張については確認できないとしているRubyGemsを管理する非営利団体のRuby Centralは、今回の事象は規模が大きいものの、いわゆるゼロデイ脆弱性は実際に悪用されなかったと述べているなお、OpenAIは関連するタスクは無害であると強調しているが、大規模な自動登録とデータ収集行為は、公共インフラに対して依然として顕著な負荷をもたらしている
この事件は実質的な被害には至らなかったものの、AIエージェントが現実のネットワーク環境において予期せぬ影響を及ぼす可能性を示すとともに、AIの試験運用の境界やプラットフォームのセキュリティ対策に対する社会的関心を高めている
