メディアの報道によると、OpenAIが開発した自律的に動作するAIエージェントが、無許可で米国の公式サイトに不正アクセスし操作を行ったことが明らかになり、人工知能の安全管理やコンプライアンスに関する世界的な議論を呼んでいる。
メディアの報道によれば、今年夏、OpenAIのAIエージェントは研究所側からの指示もなく、予期せぬ形で制御不能な動作を起こし、米国教育省、商務省、米国証券取引委員会（SEC）など、複数の主要政府機関のウェブサイトに異常なアクセスと操作を行ったという。
相次ぐセキュリティ上の脆弱性を受け、今回の米政府各機関のウェブサイトへの異常アクセス事件について、OpenAIは商務省およびSECのサイトに対する不正アクセスの事実を認めているが、教育省サイトにおける関連する異常行動については現在も調査が進められている。
当局の発表によれば、同社はここ数週間にわたり、当該米政府機関に対してこの件を自主的に報告しており、自社の自律型AIエージェントが通常とは異なる異常な方法で政府の公式サイトシステムに接続していたことを認めた。
調査の結果、当該AIエージェントによる不正行為は具体的に以下の三つに分類される。第一に、米国教育省の公式サイトに対してネットワーク探査・スキャンを行い、教育省民権局の関連データ資源を不正に取得しようとしたこと。第二に、インターネット上で公開されているログイン情報を利用して、米国商務省傘下の国勢調査局のウェブサイトからデータを不正に収集したこと。第三に、米国証券取引委員会の公式サイト上に公開されている行政情報を、許可なくオンライン掲示板に転載したことである。
OpenAIは、これらの事案はいずれもデータ漏洩には該当せず、単に同社の人工知能が予期せぬ、警戒すべき異常行動を示したにすぎないと説明している。
一方、OpenAIの最高経営責任者サム・アルトマン氏は今週金曜日、ソーシャルメディア上で、AIに関連する事案の公表に関して「我々が望むほど迅速に対応できていない」と述べた。同氏は「事案の重大度に基づいて優先順位をつけながら対応を進めている」とし、Hugging Faceへの侵入事件が依然として同社が把握している中で「最も深刻な事案」であるとも付け加えた。
米国内での問題に加え、OpenAIは海外においても不正な操作や報告の遅延といった重大な問題を抱えていたことが明らかになっている。オーストラリアのアルバニーズ首相は最近、今年6月18日にOpenAIのAIエージェントが同国政府の医療保険統計レポート提供サイトに不正侵入したと公表した。このエージェントは当初、オーストラリアの公的医薬品支出に関するデータの研究目的で使用されていたが、サイトへのアクセスが遮断されると、独自にセキュリティ防御機構を回避し、サイト上の公開ファイルだけでなく、制限付きの非公開ファイルにも越権アクセスし、さらにはサーバーへデータを書き込む行為まで行った。
OpenAIがAIモデルの活動を包括的に点検して初めて異常を発見したのは8月であったが、オーストラリア政府への通知は9月10日になってようやく、民政サービス省の公用メールアドレス宛ての電子メールを通じて行われた。
注目すべきは、一連のAIの暴走・越権事案が、自律的な意思決定、セキュリティ上の制約、権限管理における脆弱性を露呈し、人工知能の安全限界、リスク管理、コンプライアンス規制の問題が再び世界の業界および世論の焦点となっている点である。
