最近、ロイターの独占報道によると、Metaは新たに導入した個人向けAIアシスタント「Muse」において、「人工コンシェルジュ」と呼ばれるサービスのテストを行っている。これは、Muse経由で発信される通話の一部を外部委託の契約社員が代行して処理する仕組みだ。内部投稿によれば、Metaは先週、社員に対してこのテストについて説明しており、タイミングはMuseの通話機能を一般公開した直後だった。
関係者および内部投稿によると、Metaは「人工コンシェルジュ」機能――別名「人工エージェントによる通話」――を社員の約半数に限定してテスト運用している。これらの社員は以前からMuseの通話機能を試用しており、必要に応じて人間によるオペレーションへの切り替えをオプトアウトできる。Metaは8月から社内で電話発信機能の内製テストを開始し、Museアプリのリリース後も数日かけて段階的にユーザーへ提供を拡大してきた。
「人工コンシェルジュ」の仕組みはこうだ。ユーザーがMuse経由で電話をかける際、AIが単独で対応できない場合、コールセンターの外部委託スタッフが引き継ぎ、AIに代わって企業と直接やり取りを行う。Museのユーザーは、AIに米国の企業へ電話をかけさせ、理髪店の予約や店舗の在庫確認、請負業者の見積もり取得といった業務を依頼できる。通話終了後には、Museアプリが通話の要約や記録を提供する。
内部投稿からは、一部の社員が人間による通話処理にプライバシー上の懸念を示し、この手法によって機密情報がコールセンターの契約業者に意図せず漏洩する可能性があると警告していることが明らかになった。
ある社員は内部投稿で次のように述べている。「なぜこの機能がリスクを冒す価値があると考えているのか理解できません。不必要な情報が人間のオペレーターに漏れるのは、バグひとつで起こり得ることです。」また、別の社員はMuseにインターネット・ケーブルテレビ事業者へ料金交渉の電話を依頼したところ、通話記録に人間の契約スタッフが人種に関する発言をしている様子が残っていたという。
さらに社内では、人間が介入すること自体がMuseの中核的なセールスポイントを損なう可能性があるとの指摘も出ている。Metaはリリース時にAIアシスタントのセキュリティ対策を強調し、各エージェントが独立した安全な仮想マシンを備え、パスワードなどの機密情報を別途の暗号化された領域に保管すると説明していた。しかし、こうしたセキュリティ対策は、コールセンターの第三者からの影響を防ぐものではない。
こうした懸念を受け、MetaのSuperIntelligence Labs部門のある副社長は内部投稿で、適切な開示なしに契約業者による通話テストを開始したことは「誤りだった」と認め、同機能を「当面一時的に停止した」と述べた。その上で、Metaは依然として「AI通話の課題克服に向けて努力を続けている」とし、一部のテスト結果では人間が電話をかけることで成功率が95％～98％にまで向上する一方、純粋なAI通話の成功率は「より低い」と説明した。
また、人種差別的な発言があった件について報告した社員に対しても謝罪し、問題のあった「人工エージェント」については今後一切Metaのプロジェクトに関与させない方針を示した。
Metaの広報担当者ダニエル・ロバーツ氏はロイターの取材に対し、社員からのフィードバックは「大多数が肯定的」であり、テストの目的は「正式リリース前に安全性やプライバシー保護を整え、機能を改善するための意見収集にある」と述べた。「私たちはパートナー企業と協力してこの潜在的な通話機能の改良を進めており、適切な開示を伴い、十分に準備が整った時点で提供を開始します。」
