Anthropic, Claude의 보이지 않는 텍스트 워터마크가 Google DeepMind의 SynthID-Text 시스템을 사용한다고 확인

Anthropic은 Claude의 보이지 않는 텍스트 워터마킹 시스템이 Google DeepMind의 SynthID-Text를 직접 구현한 것이라고 확인했다. SynthID-Text는 가시적인 마크업이 아닌 단어 선택의 통계적 패턴 내부에 기계 판독 가능한 신호를 숨기는 오픈소스 기술이다.

주요 내용

• Claude의 텍스트 워터마킹은 Google DeepMind에서 개발한 오픈소스 시스템인 SynthID-Text를 기반으로 구축되었다.
• SynthID-Text는 Claude가 선택하는 단어를 미묘하게 편향시켜 읽을 수 있는 의미를 변경하지 않으면서 감지 가능한 통계적 패턴을 생성한다.
• 이 워터마크는 AI 생성 텍스트에 대한 유럽 AI법의 투명성 요구사항을 충족하도록 설계되었다.
• 신호가 단어 선택 확률에 존재하기 때문에 대폭적인 편집이나 의역은 신호를 약화시키거나 지울 수 있다.
• Claude를 사용해 AI 생성 이미지를 초안 작성, 편집 또는 캡션 작성하는 크리에이터들은 Claude가 실질적으로 생성한 모든 텍스트에 워터마크가 부착된다는 점을 이해해야 한다.

SynthID-Text가 실제로 신호를 삽입하는 방법

대형 언어 모델 — 가장 가능성 높은 다음 단어를 예측하도록 훈련된 AI 시스템 — 은 확실성을 가지고 단어를 선택하지 않는다. 수천 개의 후보에 대해 확률 점수를 할당하고 그 분포에서 샘플링한다. SynthID-Text는 샘플링이 발생하기 전에 구조화되고 비밀스러운 방식으로 이러한 확률을 조정함으로써 작동한다. 결과 텍스트는 인간에게는 자연스럽게 읽히지만 가볍게 재구성된 단락에서도 감지 알고리즘이 식별할 수 있는 통계적 지문을 가지고 있다.

이를 오디오 파일의 노이즈 플로어에 삽입된 워터마크의 텍스트 버전으로 생각해보라: 일반적인 청취 중에는 들리지 않지만 적절한 분석 도구로 복구할 수 있다. 이 비유는 어려운 부분을 다루며, 다른 곳에서는 명확한 기술적 그림이 더 명확하다.

실질적으로 이것이 의미하는 바: 워터마크는 확률적이며 절대적이지 않다. The Verge에 따르면, Anthropic은 금요일에 이 시스템을 발표하며 AI 생성 콘텐츠의 공개를 요구하는 유럽 AI법에 대한 규정 준수 조치로 설명했다. 짧은 Claude 출력 — 단일 캡션, 두 줄짜리 제품 설명 — 은 패턴을 인코딩할 단어 선택 결정이 적기 때문에 전체 단락보다 약한 신호를 가진다.

Claude로 글을 쓰는 크리에이터들에게 달라지는 점

AI 아트 크리에이터들에게 가장 즉각적인 마찰 지점은 캡션과 메타데이터다. Claude가 이미지 캡션, 프롬프트 설명 또는 캐릭터 배경 스토리를 작성하면 해당 텍스트는 SynthID-Text의 지문을 가지게 된다. 동일한 오픈소스 사양을 기반으로 구축된 감지 도구가 이를 표시할 수 있으며, 이는 AI 공개가 필요하거나 플랫폼이 AI 생성 텍스트를 스캔하는 상황에서 중요하다.

대폭적인 편집은 신호를 감소시킨다. Claude의 초안을 문장별로 다시 쓰고, 단어 순서를 바꾸고, 동의어로 대체하는 것 — 이 모든 것이 SynthID-Text가 의존하는 확률 패턴을 저하시킨다. 이는 Anthropic이 숨기고 있는 허점이 아니라 모든 통계적 워터마킹 접근법의 인정된 한계다. 이 시스템은 대규모로 명확히 AI 생성된 텍스트를 표시하도록 설계되었으며, 적대적 재작성에서 살아남도록 설계되지 않았다.

Claude를 사용해 인간이 작성한 복사본을 가볍게 다듬는 크리에이터들은 더 미묘한 위험에 직면한다: Charmloop의 이전 보도에서 다룬 바와 같이, Claude의 워터마크는 Claude가 가볍게만 편집한 인간 텍스트에도 부착될 수 있으며, 이는 모델을 통해 편집 작업을 라우팅하기 전에 이해할 가치가 있는 범위 문제다.

Anthropic이 오픈 표준을 선택한 이유

독점 시스템이 아닌 Google DeepMind의 공개된 사양을 기반으로 구축하는 것은 명확한 전략적 논리를 가진다: 규제 기관과 제3자 감사관들이 Anthropic의 말만 믿지 않고도 워터마킹이 실제로 작동하는지 확인할 수 있다. SynthID-Text의 오픈소스 특성은 또한 감지 도구가 Anthropic과의 어떤 합의 없이도 플랫폼, 고용주 또는 학술 기관에 의해 독립적으로 구축되고 배포될 수 있음을 의미한다.

그 개방성은 양날의 검이다. 알고리즘이 공개되어 있기 때문에 연구자들은 이를 회피하는 방법을 정확히 연구할 수 있고, 회피 도구가 뒤따를 것이다. Anthropic은 이 시스템이 변조 방지라고 주장하지 않았다. 이는 법의학적 잠금이 아닌 확장 가능한 투명성 조치로 위치한다.

AI 공개 요구사항을 탐색하는 크리에이터들 — 특히 유럽 시장에서 출간하거나 AI 라벨링을 의무화하기 시작한 플랫폼에서 — 어떤 출력이 워터마크를 가지고 어떤 것이 그렇지 않은지 이해하는 것은 이제 추상적인 정책 문제가 아닌 실용적인 워크플로 문제다. Charmloop 가이드 섹션은 이러한 요구사항이 계속 발전함에 따라 공개 및 메타데이터 관행을 다룬다.

SynthID-Text는 이미 Google의 자체 제품에 배포되었다. Claude가 동일한 사양을 채택한다는 것은 가장 큰 두 AI 텍스트 생성기가 이제 공통 워터마킹 인프라를 공유한다는 의미로, 상호 운용 가능한 감지 생태계를 향한 조용하지만 중요한 단계다.