さすがMeta、どの製品にも強いプライバシー・セキュリティ上の問題が存在します。現在アメリカで話題となっている人工知能製品がMetaの「Muse」です。このAIアシスタントは、ユーザーの日常的なタスクを支援します。内部テスト段階にある機能として、電話をかけるというものがあり、エージェントが業者に連絡して予約や価格問い合わせなどを行えるようになっています。
ユーザーがタスクを提出すると、Metaは人間が電話をかける仕組みを採用しています。通常の流れでは、ユーザーがタスクを提出した後、AIが自ら業者の情報を調べて電話をかけ、予約や問い合わせを試みますが、一部のテストではAIが通話を円滑に進められない場合、Muse AIはそのタスクを外部委託チームに引き継ぎ、同チームが手動で業者に電話をかけて対応します。
内部テストでは、従業員の約半数が電話対応の権限を与えられており、参加者は任意で辞退できます。この機能は一般ユーザーにはまだ公開されていません。しかし、内部テスト中に従業員がこの仕組みに深刻なプライバシー・セキュリティ上の問題があることを発見し、AIから人間に引き継ぐプロセスについて告発する投稿を行いました。
なぜプライバシー問題が生じるのか？
内部の告発投稿によれば、一部の業者はAIが自己紹介した途端に電話を切ってしまうことがあり、Metaの副社長は、外部委託チームによる対応を導入することで電話タスクの成功率が95％～98％に達すると述べています。これは、AI単体で自動的に電話をかけて業者とやり取りする場合の成功率を大きく上回ります。
問題は、ユーザーが通常、自分の氏名、電話番号、連絡目的、その他の背景情報といった機密情報をAIに提供している点です。本来AIが処理するはずのタスクが人間のチームに引き継がれると、人間側はユーザーのあらゆる個人情報を閲覧できることになり、場合によっては請求書や口座情報に至るまで漏洩する可能性があります。
内部の従業員の中には、Muse AIにインターネットやケーブルテレビのサービスプロバイダーへ請求額の交渉を依頼したところ、通話記録を確認した際に、担当した契約社員が人種差別的な発言をしているのを見つけたという者もいます。これらの発言はAIモデルが生成したものではありませんでした。
現在、当該機能は一時停止されています。
Metaのスーパーアイズラボの副社長は、適切な告知（つまり外部チームが引き継ぐことを事前に伝えていなかったこと）がないまま電話テストを行ったのは誤りだったと認め、現在は人間による引き継ぎ機能を一旦ロールバックしました。また、当該契約業者はすでに契約解除され、今後はMetaのプロジェクトに関与しないと強調しています。
Metaにとってこうしたプライバシー問題は実はよくあることで、以前は従業員のPCに監視ソフトを導入し、リアルなオフィスデータを収集してモデルの訓練やデジタルヒューマンの作成に利用しようとしたところ、強い反発を受け、方針を撤回しています。さらに、Metaの他の製品についても、さまざまなプライバシー問題が相次いでおり、もはや人々は慣れきっている状況です。
