Элиас простым языком объясняет исследования, стоящие за заголовками.
Пошаговые гайды о промптах, стилях и о том, как выжать максимум из генерации изображений ИИ.
Читать гайдыВыбери компаньона и узнай его мнение об этой истории
Anthropic подтвердила, что система невидимой текстовой маркировки Claude представляет собой прямую реализацию SynthID-Text от Google DeepMind — технологии с открытым исходным кодом, которая скрывает машиночитаемые сигналы внутри статистического паттерна выбора слов, а не в каких-либо видимых элементах разметки.
Большие языковые модели — системы ИИ, обученные предсказывать наиболее вероятное следующее слово, — не выбирают слова с абсолютной определённостью: они присваивают оценки вероятности тысячам кандидатов и делают выборку из этого распределения. SynthID-Text работает, подталкивая эти вероятности структурированным, секретным образом до того, как происходит выборка. Полученный текст воспринимается человеком естественно, но несёт статистический отпечаток, который алгоритм обнаружения может идентифицировать даже в абзацах, слегка перефразированных.
Представьте это как текстовый эквивалент водяного знака, встроенного в шумовой пол аудиофайла: неслышимого при обычном прослушивании, но восстанавливаемого с помощью подходящего инструмента анализа. Эта аналогия охватывает самую сложную часть — во всём остальном техническая картина яснее.
Что это означает на практике: водяной знак носит вероятностный, а не абсолютный характер. По данным The Verge, Anthropic объявила о системе в пятницу, представив её как меру соответствия Европейскому закону об ИИ, который требует раскрытия информации о контенте, созданном ИИ. Короткий вывод Claude — одна подпись, двухстрочное описание продукта — несёт более слабый сигнал, чем полный абзац, поскольку решений о выборе слов для кодирования паттерна меньше.
Для создателей ИИ-арта наиболее очевидная точка трения — это подписи и метаданные. Если Claude пишет подпись к изображению, описание промпта или предысторию персонажа, этот текст будет нести отпечаток SynthID-Text. Инструменты обнаружения, построенные на той же спецификации с открытым исходным кодом, могут его пометить — что важно в контекстах, где требуется раскрытие информации об ИИ или где платформа сканирует текст на предмет создания искусственным интеллектом.
Интенсивное редактирование ослабляет сигнал. Переписывание черновика Claude предложение за предложением, изменение порядка слов, замена синонимами — всё это разрушает вероятностный паттерн, на который опирается SynthID-Text. Это не лазейка, которую Anthropic скрывает; это признанное ограничение любого подхода к статистической маркировке. Система разработана для маркировки явно созданного ИИ текста в масштабе, а не для того, чтобы выдерживать намеренное переписывание.
Авторы, использующие Claude лишь для лёгкой полировки написанного человеком текста, сталкиваются с более тонким риском: как сообщалось в более ранних материалах Charmloop, водяной знак Claude может прикрепляться к человеческому тексту, который Claude лишь незначительно отредактировал, — это проблема охвата, которую стоит понять до того, как направлять редакционную работу через модель.
Claude от Anthropic теперь поставляется с невидимой маркировкой SynthID-Text для текстов, созданных ИИ.
Изображение: The Verge / The Verge AI
Строить систему на основе опубликованной спецификации Google DeepMind, а не на проприетарной разработке, имеет очевидную стратегическую логику: регуляторы и сторонние аудиторы могут проверить, что маркировка действительно работает, не полагаясь исключительно на слово Anthropic. Открытый характер SynthID-Text также означает, что инструменты обнаружения могут создаваться и развёртываться независимо — платформами, работодателями или академическими учреждениями — без каких-либо соглашений с Anthropic.
Эта открытость работает в обе стороны. Поскольку алгоритм общедоступен, исследователи могут изучить именно то, как его обойти, — и инструменты обхода не заставят себя ждать. Anthropic не заявляла, что система защищена от взлома; она позиционируется как масштабируемая мера прозрачности, а не криминалистический замок.
Для авторов, ориентирующихся в требованиях к раскрытию информации об ИИ — особенно тех, кто публикуется на европейских рынках или на платформах, начинающих вводить обязательную маркировку ИИ, — понимание того, какие выходные данные несут водяной знак, а какие нет, теперь является практическим вопросом рабочего процесса, а не абстрактным политическим. Раздел руководств Charmloop охватывает практики раскрытия информации и работы с метаданными по мере того, как эти требования продолжают развиваться.
SynthID-Text уже развёрнут в собственных продуктах Google; принятие Claude той же спецификации означает, что два крупнейших генератора текста на основе ИИ теперь используют общую инфраструктуру маркировки — тихий, но значимый шаг к совместимой экосистеме обнаружения.
