После волны отмен подписок. Anthropic объяснила, как будет работать невидимый водяной знак в текстах Claude

Об этом пишет издание Gizmodo .

Компания заявила, что водяной знак не будет заметен читателю. Он формируется не за счет специальных символов или замены слов, а благодаря выбору определенных токенов в процессе генерации текста.

Токенами называют небольшие фрагменты текста, которые модель использует при формировании ответа. В ситуациях, когда возможны различные варианты продолжения предложения, система может статистически чаще выбирать определенные токены. Сам принцип выбора определяется секретным ключом Anthropic.

Например, в предложении о погоде модель может выбирать между такими словами, как «серый» и «пасмурный». В этом случае система может отдать предпочтение одному из вариантов. Однако в предложении вроде «Париж — столица…» выбор практически очевиден, поэтому применить там водяной знак сложнее.

Человек не заметит отдельных подобных решений. Однако в длинном тексте их накапливается достаточно, чтобы специальный детектор мог определить, что материал, вероятно, был создан Claude. Anthropic планирует предоставлять такой инструмент через API.

По заявлению компании, создание водяного знака практически не влияет на скорость генерации и расход токенов. В то же время в коротких текстах и программном коде определить происхождение может быть сложнее из-за меньшего количества неоднозначных вариантов.

Система также может срабатывать, если Claude используется только для редактирования текста, написанного человеком. Насколько заметным будет такой след, зависит от объема текста и степени его изменения моделью.

Технология основана на подходе, описанном в исследовании SynthID 2024 года. Похожую систему для маркировки контента использует Google.

Разъяснение от Anthropic последовало за реакцией части пользователей Claude, заявивших в соцсети X, что они отменяют платные подписки из-за нововведения. Некоторые из них объясняли, что не хотят, чтобы клиенты, преподаватели или другие люди могли определить использование ИИ.

В то же время компания Anthropic заявила изданию Business Insider, что после объявления о внедрении водяных знаков не зафиксировала роста числа отмен подписок.