近日、米国の28団体からなる連合は、アップルとグーグルに対し公開書簡を送り、両社が自社のポリシーに基づいて、ソーシャルメディア「X」とそのAIアシスタント「Grok」をアプリストアから削除するよう求めました公開書簡では、両大手テクノロジー企業が、本人の同意なしに撮影されたプライベートな画像や未成年者に関わる有害コンテンツの拡散を放置し、それによって商業的利益を得ていると非難さらなる違法行為や悪用を防ぐため、速やかな対応を呼びかけています
これまでに、Grokが実在する人物、さらには未成年者を含む、本人の同意のない親密な内容のディープフェイクを大量に生成していることが明らかになりましたデータによれば、関連報道が公表されてからの24時間以内に、Grokは性を暗示する内容や“脱衣”効果を伴う画像を平均毎時約6,700枚生成しており、同期間における全体生成量の85％を占めていましたこの問題の規模は、単なる個別事例をはるかに超えるものでした連合は、これによりGrokとXが、違法なディープフェイクコンテンツを広く拡散する主要なプラットフォームへと急速に変貌しつつあることを示していると指摘しています
その後、Grokは2025年12月に「セキュリティメカニズムの不備」により、二人の未成年少女に関する性的な画像を生成・配信したことを認めましたこれを受けてXは画像生成機能を制限し、有料ユーザーにのみ開放するとともに、こうした画像が公開タイムラインに直接表示されないようにしましたしかし、批判の声では、有料ユーザーでない一般ユーザーも一定の範囲内で有害なコンテンツを生成できる状態が依然として残っていると指摘されています
アップルとグーグルがまだ具体的な対応を示していないなか、各国の規制当局がいち早く動き出していますマレーシアとインドネシアはGrokの利用禁止を発表し、英国と米国カリフォルニア州では調査が開始されましたさらに米上院は「反ディープフェイク法案」を再び可決し、ディープフェイク被害者が民事訴訟を提起できる権利を付与しましたこれらの一連の動きは、テクノロジープラットフォームの倫理的責任と規制の課題を改めて大きな論点へと押し上げています
