ИИ не пройдет. Новый инструмент Google добавляет невидимые водяные знаки на сгенерированный текст
Google сделала общедоступной свою технологию SynthID Text, которая позволяет разработчикам создавать водяные знаки и выявлять текст, написанный генеративными моделями искусственного интеллекта.
Компания открыла исходный код SynthID Text для разработчиков. Его можно загрузить с платформ GitHub и Responsible GenAI от Google.
«Он бесплатно доступен разработчикам и компаниям и поможет им идентифицировать созданный искусственным интеллектом контент», — говорит Google в публикации на X.
Google утверждает, что SynthID Text не ухудшает качество, точность или скорость генерации текста и работает даже с текстом, который был обрезан, перефразирован или изменен. Но компания также признает, что ее подход к водяным знакам имеет ограничения. Например, SynthID Text не так хорошо работает с коротким текстом, текстом, переписанным или переведенным с другого языка, или с ответами на фактические вопросы.
Google не единственная компания, которая работает над технологией водяных знаков для сгенерированных ИИ текстов. OpenAI годами исследовала эту технологию, но отсрочила ее выпуск из-за технических и коммерческих соображений.
