AI 도구·모델
샌프란시스코, 애플과 구글에 AI 누디파이 앱 앱스토어 삭제 명령
Charmloop 편집팀· 편집·
샌프란시스코 시 검사가 애플과 구글에 각각의 앱스토어에서 AI 누디파이 앱을 삭제하도록 명령했습니다. 두 회사 모두 비동의 친밀 이미지를 생성하도록 설계된 도구로부터 수수료 명목으로 수백만 달러에 달하는 수익을 올렸다는 것이 그 근거입니다.
Ars Technica 보도에 따르면, 시 검사실은 이 사건을 철저히 금전적 관점에서 구성했습니다. 애플과 구글은 단순히 앱을 수동적으로 호스팅하는 것이 아니라, 인앱 구매 및 구독 수수료에서 표준 15~30%의 수익을 가져갑니다. 누디파이 앱이 구독을 통해 수익을 창출하면 그 매출은 곧바로 플랫폼으로 흘러들어갑니다. 해당 수수료를 수취함으로써 두 회사는 중립적인 매개자가 아니라 피해의 적극적인 참여자가 된다는 것이 법적 논리입니다.
이 논리는 더 넓은 AI 아트 생태계에도 중요한 함의를 지닙니다. 규제 당국은 앱스토어, API 제공업체, 클라우드 호스트 등 인프라 계층을 그 위에서 실행되는 콘텐츠에 대해 법적으로 책임이 있는 주체로 점점 더 간주하고 있습니다. 누디파이 앱에 적용된 동일한 논리는 향후 조치에서 규제 당국이 대규모로 유해 콘텐츠를 생성한다고 판단하는 모든 이미지 생성 도구로 확대될 수 있습니다.
누디파이 앱은 AI 이미지 도구의 특정 범주입니다. 실제 인물의 옷을 입은 사진을 가져와 당사자의 인지나 동의 없이 합성 누드 버전을 생성합니다. 이는 사용자가 텍스트 프롬프트로 이미지를 구성하거나 자신이 통제하는 참조 이미지를 업로드하는 범용 AI 이미지 생성기와 명확히 구별됩니다. 실제 인물의 외모를 비동의적으로 사용하는 것이 핵심적인 법적·윤리적 문제이며, 이것이 이 범주를 Charmloop 생성기와 같은 플랫폼에서 AI 아트 창작자들이 매일 사용하는 더 넓은 창작 도구와 구분 짓는 지점입니다.
이 구분을 명확히 유지할 필요가 있습니다. 이번 조치는 AI 이미지 생성이라는 행위 자체에 대한 전면적인 공격이 아닙니다. 동의를 침해하는 특정하고 좁은 사용 사례를 겨냥한 것입니다. 그러나 이로 인해 형성되는 규제적 모멘텀은 실재하며, 이미지 생성 도구를 호스팅하는 모든 플랫폼은 지금 애플과 구글의 대응을 주시하고 있습니다.
애플과 구글 모두 비동의 친밀 이미지를 생성하는 앱을 명목상 금지하는 기존 정책을 보유하고 있습니다. 시 검사의 이번 조치는 본질적으로 그 정책이 집행되지 않았다는 고발입니다. 즉, 해당 앱들이 심사를 통과하고, 상당한 구독 수익을 창출할 만큼 오랫동안 서비스를 유지했으며, 외부 압력이 있을 때에야 비로소 삭제됐다는 것입니다.
AI 창작자들에게 이 집행 공백은 실질적인 결과를 낳습니다. 앱스토어는 콘텐츠 정책의 경계 근처에서 운영되는 AI 이미지 도구에 있어 신뢰할 수 없는 배포 채널입니다. 합법적인 창작 도구를 개발하는 개발자들은 오랫동안 애플의 심사 과정이 일관성이 없고 불투명하다고 불만을 토로해 왔습니다. 이번 사건은 애플과 구글이 AI 이미지 생성 앱에 대한 전면적인 제한 조치를 취하도록 정치적 압력을 가중시킬 수 있습니다. 이는 합법적인 도구까지 유해한 도구와 같은 그물에 걸리게 하는 과잉 교정의 위험을 내포합니다.
샌프란시스코 시 검사는 연방 관할권을 갖지 않으므로, 이번 명령의 법적 효력은 캘리포니아 주법과 애플·구글이 소송 대신 명령을 준수하려는 의지에 달려 있습니다. 어느 회사도 지목된 앱을 삭제하겠다고 공개적으로 확인하지 않았습니다. 만약 두 회사가 저항한다면, 이 사건은 선례를 남기거나 글로벌 앱 배포 플랫폼에 대한 지방 자치 당국의 권한 한계를 드러낼 수 있습니다.
AI 이미지 도구를 중심으로 워크플로를 구축하는 창작자들에게 더 즉각적인 신호는 입법 동향입니다. 여러 주와 연방 정부가 비동의 AI 생성 친밀 이미지를 명시적으로 범죄화하는 법안을 추진하고 있습니다. 시 검사의 서한과 달리, 그러한 법률은 집행 가능한 처벌을 수반하며 이미지 생성 모델이 허용되는 범위와 제공업체가 법적으로 구축해야 하는 안전 필터를 재편할 수 있습니다. 그 규제적 흐름을 파악하는 것은 모델 출시 동향을 추적하는 것만큼이나 중요합니다. xAI가 CSAM 생성으로 Grok 사용자를 고소한 사건에 대한 이전 보도는 AI 생성 유해 이미지를 둘러싼 법적 환경이 얼마나 빠르게 변화하고 있는지를 잘 보여줍니다.
