InstagramのAIコンテンツラベルが人間制作の写真に誤作動

Instagramの自動「AIコンテンツ」ラベルが、AIツールで生成・編集されていない画像にも適用されている――アーティストのオリジナル作品を合成物として公に誤認させる、広範な誤作動だ。

主なポイント

• The Vergeによると、Instagramは生成AIをまったく使用していない人間制作の写真に「AIコンテンツ」ラベルを自動付与している。
• このシステムは、実際のAI生成ではなく標準的な編集ソフトウェアのメタデータに反応しているとみられる。
• Instagramがラベルを適用した後、クリエイターが簡単に異議申し立てや削除を行う手段はない。
• 誤ったラベルは、オーディエンスが作者を認識する方法に影響を与える――虚偽のラベルはアートコミュニティにおいて実質的な評判上のダメージをもたらす。
• 本稿執筆時点で、Metaは公式な修正策やスケジュールを発表していない。

ラベルが告発になるとき

InstagramのAIコンテンツタグの目的はシンプルだ。画像が生成ツールで作られたことを視聴者に素早く伝えるシグナルを提供すること。しかし現状の実装は、その目的とはほど遠い。ここ数週間で、カメラで撮影し、手で描き、Lightroomの調整やPhotoshopのレタッチといった従来のソフトウェアのみで編集した作品にラベルが表示されたと、写真家やイラストレーターが報告している――デジタル写真における通常の暗室作業だ。

最も有力な原因はメタデータだ。一部の編集アプリケーションは画像ファイルにタグを埋め込んでおり、Instagramの検出システムはそれをAI関与の証拠として読み取るようだ――生成モデルが使われていなくてもだ。修復ブラシのストローク、空の置き換えツール、さらには一部のエクスポートプリセットでさえ、フラグを立てるには十分かもしれない。この検出は合成ピクセルの存在ではなく、現代ソフトウェアの痕跡を読み取っているのだ。

クリエイターにとって、実質的なダメージは二方向に及ぶ。まず、オーディエンスの問題がある。風景写真にラベルを見た視聴者は、その場面が撮影されたのではなく生成されたと合理的に判断するだろう。真正性が通貨となるコミュニティ――ファインアート写真、ドキュメンタリー作品、手描きのキャラクターデザイン――では、その思い込みが長年かけて築いた信頼を侵食する。次に、プラットフォームの問題がある。Instagramのラベリングポリシーはより広範なコンテンツ整合性の取り組みと結びついており、誤ってフラグを立てられたクリエイターには救済手段がほとんどない。透明性のある異議申し立て経路も、特定の画像がタグ付けされた理由の明確な説明もない。

これは、Instagramが未開示のAIプロフィールのリーチを制限するという並行した動きと不快な緊張関係にある――CharmlooopがInstagramがAIペルソナアカウントを制限し開示タグを改名した際に取り上げたポリシーだ。その取り組みは少なくとも実際のAI利用を対象としていた。現在の誤作動はその逆を行う。人間の作者性を誤分類することで罰しているのだ。

正確な検出が実際に必要とするもの

より深い問題は、二項対立のラベリング――AIかAIでないか――が、2025年における実際の画像制作プロセスにうまく対応していないことだ。ある肖像写真はフィルムで撮影され、スキャンされ、一工程だけニューラルネットワークベースのツールでカラーグレーディングされ、その後手作業で仕上げられるかもしれない。「AIコンテンツ」はどこから始まるのか？Metaは検出基準を公開しておらず、クリエイターがシステムを予測可能な形でナビゲートすることを不可能にしている。

Instagramでオリジナル作品を公開する人にとって、現時点での実践的な対応はドキュメント化だ。RAWファイル、エクスポートログ、ソフトウェアバージョンの記録を保持すること。本物の作品にラベルが表示された場合、その証跡が唯一利用可能な証拠となる――たとえプラットフォームが現在それを提出する正式な場所を提供していなくても。

より広範な検出問題は、業界がいまだ解決しようとしているものだ。Pangram LabsのCEOであるMax Speroが主張するように、AI生成コンテンツの洪水は、包括的な検出ツールをより緊急かつよりエラーが起きやすいものにしている――CharmlooopがAIの検出とデッドインターネット問題に関する記事で検討した緊張関係だ。

Metaのシステムはおそらく再調整されるだろう。それまでの間、合成画像にマークを付けるために設計されたラベルが、代わりに人間の作品にマークを付けている――これはある意味で、ラベルがまったくない場合よりも腐食性の高い結果だ。