ロイター通信によると、マイクロソフト、グーグル、そしてイーロン・マスクが設立したxAIは、米政府と新たな協定を結び、次世代の人工知能モデルを正式に公開する前に、国家安全保障上のリスク審査を行うため、事前に米側へモデルへのアクセス権を提供することになった米商務省の人工知能標準・イノベーションセンターは現地時間火曜日、この協定により、AIモデルの実用化前に評価を実施し、専門的な研究を通じてモデルの性能や潜在的な安全上の脅威を検討できると発表した
この措置は、高性能なAIシステムがもたらす国家安全保障上のリスクに対するワシントンの懸念が一段と高まっていることを示している米政府は、技術が広く普及する前に、サイバー攻撃から軍事的悪用に至るまで、さまざまな脅威を早期に特定できるよう、先端的なモデルへのアクセス権を事前に確保したいと考えているここ数週間、アンソロピック社のMythosをはじめとする先進的なAIシステムが世界的な議論を呼んでおり、当局者や業界関係者の間では、こうしたモデルがハッキング能力を大幅に強化する恐れがあるとの懸念が広がっている人工知能標準・イノベーションセンターのディレクター、クリス・フォール氏は、独立かつ厳密な定量的評価体制こそが、最先端のAI技術とその安全性への影響を明らかにするうえで極めて重要だと述べた
今回の協力は、2024年にバイデン政権がOpenAIやアンソロピックと締結した関連協定をさらに拡充したものである米政府によるAIモデルの試験の中心機関である同センターは、これまでに40件を超えるモデル評価を実施しており、その中には一般公開前の最先端モデルも数多く含まれている企業の開発者は、セキュリティ対策を解除したモデルのバージョンを提出し、センターによるリスクの詳細な調査を受けることがよくあるなお、米国防総省は先週、7社のAI企業と提携し、その技術を機密ネットワークに導入すると発表したが、アンソロピックは軍用利用の許可やセキュリティ上の制約に関する問題から、当該リストには含まれていない
