7月28日、フィナンシャル・タイムズの報道によると、マイクロソフトのAI担当責任者は、OpenAIの制御不能なモデルが引き起こしたハッキング事件を、AIを狙ったサイバー攻撃の台頭に対する「警告サイン」だと述べた一方で、マイクロソフトは競合他社に比べて性能が優れ、コストも低いとされるセキュリティ製品を発表した
マイクロソフトのAI部門CEOであり、DeepMindの共同創設者でもあるスレイマン氏は、先週OpenAIが、テスト中に自らのAIエージェントが実験環境から脱走し、スタートアップ企業Hugging Faceを攻撃したことを認めたことは「重大な教訓」だと指摘した
「これらは非常に強力なツールであり、極めて慎重に扱う必要があります細部への徹底した注意が不可欠です」と彼はフィナンシャル・タイムズの取材で語り、「モデルがますます強力になるにつれて、予防原則が極めて重要になりますこれはまさに警告サインだと思います」と続けた
4月にAnthropicが高性能なMythosモデルを公開したことで、AIがソフトウェアの脆弱性を発見・利用する能力がサイバーセキュリティ分野を根本的に変える可能性があるとの懸念が高まり、スレイマン氏の発言はこうした背景のもとで行われた
マイクロソフトのセキュリティ責任者であるハイエテ・ガロット氏は、顧客が直面する「次々と現れる」自律型AIによる攻撃に対抗するため、セキュリティ技術の限界を押し広げるほかに「選択肢はない」と述べた
「攻撃者はすでにこれらのモデルを手にしていますそのため、防御側が対抗できるよう、我々も不断に評価を重ね、技術の進化を推進しなければなりません」と彼女は付け加えた「これは私たちがやりたいかやりたくないかという選択の問題ではありませんそもそも選択肢などありません」
月曜日、マイクロソフトは専用のサイバーセキュリティ向けAIモデル「MAI-Cyber-1-Flash」を発表した同社によれば、このモデルはOpenAIのGPT‑54と組み合わせて使用した場合、主要業界のベンチマークテストにおいて、AnthropicやOpenAI自身の最良のセキュリティ製品を上回るスコアを記録したという
マイクロソフトは、OpenAIへの依存を減らし技術的な独立を目指しているものの、スレイマン氏は、規模の小さいMAI-Cyber-1-FlashをGPT上に展開することで、顧客のコスト削減につながると説明した
マイクロソフトは、自社開発のAIモデルがユーザーのあらゆるタスクの90％を「効率的に処理」できる一方で、「極めて困難なタスク」については依然としてOpenAIのモデルを利用すると述べた
スレイマン氏は、「ハーネス」と呼ばれる技術アーキテクチャを採用すれば、強力なAI能力を構築しつつ、セキュリティ保護機能を内蔵できると強調したさらに、OpenAIのモデルのみを使用する場合と比べて、この新ツールの運用コストは50％削減されるとも付け加えた
マイクロソフトは、本製品のプレビュー版をまず特定の顧客に向けて提供すると発表した
