非営利団体「テクノロジー・トランスパレンシー・プロジェクト」はこのほど報告書を発表し、懸念すべき現象を明らかにしたAppleのApp StoreおよびGoogle Playストアにおいて、人工知能技術を用いて他人の普通の写真から“衣服を脱がせる”ことで裸の画像を生成すると称するアプリが複数見つかったのだこうしたアプリはRedditなどのソーシャルプラットフォームで大きな論争を引き起こしており、大手アプリストアがコンテンツ審査において直面している新たな課題を浮き彫りにしている
報告書によれば、研究者らは「脱衣」などのキーワードを直接検索するだけで、露骨な機能を持つ多数のアプリを容易に発見できたというこれらのアプリの目的は明らかに、単なる画像編集ではなく、虚偽の性的露出画像の生成にあるこれに対し、Appleは違反アプリを複数削除し、開発者に対して警告を発したと回答Googleも関連する開発者の公開資格を一時停止し、今後も取り締まりを継続すると表明したしかし、批判の声は、両巨頭の対応が明らかに遅れていると指摘している
情報によれば、一部のアプリは削除されるまでに累計数百万回ものダウンロードを記録し、開発者には相当な収益をもたらしていた世論からは、今回の措置は事件の表面化後に世論の圧力に応じて取られた後追いの対応にすぎず、本来的な厳格な事前審査体制によるものではないとの批判が寄せられているまた、この一件はAI技術の乱用の境界線や、アプリストアがイノベーションの促進と被害の防止の間でいかにしてより効果的なガバナンス体制を構築すべきかという、より深い議論を呼び起こしている
