AIツール・モデル
サンフランシスコ、AppleとGoogleにAIヌード化アプリのアプリストアからの削除を命令
Charmloop 編集チーム· 編集部·
サンフランシスコ市検事は、AppleとGoogleに対し、それぞれのアプリストアからAIヌード化アプリを削除するよう命じた。両社が非合意の親密な画像を生成するツールから、手数料として数百万ドルを得ている可能性があると主張している。
Ars Technicaによると、市検事局はこの案件を明確に金銭の問題として位置づけた。AppleとGoogleは単にこれらのアプリを受動的にホストしているのではなく、アプリ内購入やサブスクリプション料金から標準的な15〜30%の手数料を徴収している。ヌード化アプリがサブスクリプションで収益を上げれば、その収益は直接プラットフォームに流れる。その手数料を受け取ることで、両社は中立的な媒介者ではなく、被害の積極的な参加者になるという法的理論だ。
この論理は、より広いAIアートのエコシステムにとっても重要な意味を持つ。規制当局はますます、アプリストア、APIプロバイダー、クラウドホストといったインフラ層を、その上で動作するものに対して法的責任を負う存在として扱うようになっている。ヌード化アプリに適用されるのと同じ論理が、将来の措置では、規制当局が大規模に有害なコンテンツを生成すると判断したあらゆる画像生成ツールにまで拡大される可能性がある。
ヌード化アプリは、AI画像ツールの特定のカテゴリだ。実在する人物の服を着た写真を取り込み、その人物の知識や同意なしに合成ヌード画像を生成する。これは、ユーザーがテキストプロンプトから画像を構築したり、自分でコントロールできる参照画像をアップロードしたりする汎用AI画像生成ツールとは明確に異なる。実在する人物の肖像を非合意で使用することが、法的・倫理的問題の核心であり、CharmloopのジェネレーターのようなプラットフォームでAIアートクリエイターが日常的に使用する広範なクリエイティブツールとこのカテゴリを区別するものだ。
この区別は明確にしておく価値がある。今回の措置は、AI画像生成という行為全体への攻撃ではない。同意を侵害する狭い特定のユースケースを標的にしている。しかし、それが生み出す規制の勢いは本物であり、画像生成ツールをホストするあらゆるプラットフォームが、AppleとGoogleの対応を注視している。
AppleとGoogleはいずれも、非合意の親密な画像を生成するアプリを名目上禁止する既存のポリシーを持っている。市検事の措置は本質的に、そのポリシーが執行されなかったという告発だ——アプリが審査をすり抜け、相当なサブスクリプション収益を生み出すのに十分な期間稼働し続け、外部からの圧力があって初めて（もし削除されたとしても）削除されたということだ。
AIクリエイターにとって、この執行のギャップには実際的な影響がある。アプリストアは、コンテンツポリシーの境界付近で動作するAI画像ツールにとって、信頼性の低い配信チャネルだ。正当なクリエイティブツールを開発するデベロッパーたちは、Appleの審査プロセスが一貫性に欠け不透明だと長年訴えてきた。今回の案件は、AppleとGoogleがAI画像生成アプリに対して一律の制限を設ける方向へと政治的圧力を加えるものであり、有害なアプリと同じ網に正当なツールも引っかかるような過剰修正につながりかねない。
サンフランシスコ市検事は連邦管轄権を持たないため、この命令の法的拘束力はカリフォルニア州法と、AppleおよびGoogleが訴訟ではなく従う意思があるかどうかにかかっている。どちらの企業も、指摘されたアプリを削除すると公式に確認していない。もし両社が抵抗すれば、この案件は先例を打ち立てるか、あるいはグローバルなアプリ配信プラットフォームに対する市当局の権限の限界を露呈させることになるだろう。
AI画像ツールを中心にワークフローを構築しているクリエイターにとって、より直接的なシグナルは立法面にある。複数の州と連邦政府が、非合意のAI生成親密画像を明示的に犯罪化する法案を推進している。市検事の書簡とは異なり、そうした法律は執行可能な罰則を伴い、画像生成モデルに許可される行為や、プロバイダーが法的に組み込むことを義務付けられる安全フィルターを再定義する可能性がある。その規制の流れを把握し続けることは、モデルのリリース情報を追うのと同様に重要だ。xAIがGrokユーザーをCSAM生成で訴えた件に関する以前の報道は、AI生成有害画像をめぐる法的状況がいかに急速に動いているかを示している。
