С заботой о вас. В OpenAI назвали странную причину не добавлять водяные знаки на тексты, созданные ChatGPT

OpenAI имеет систему водяных знаков для текста, созданного ChatGPT, и инструмент для обнаружения водяных знаков, который готов уже примерно год, однако внутри компании нет единства относительно того, стоит ли его выпускать, пишет The Wall Street Journal.

С одной стороны, введение водяных знаков кажется ответственным делом, а с другой стороны, это может навредить прибыли. Водяной знак OpenAI описывается как настройка того, как модель предсказывает наиболее вероятные слова и фразы, которые будут следовать за предыдущими, создавая шаблон, который можно обнаружить. Любой качественный инструмент для обнаружения материалов, написанных ИИ, является потенциальным преимуществом, например, для учителей, которые хотят, чтобы студенты делали задания самостоятельно.

Компания обнаружила, что водяные знаки не влияют на качество вывода текста чат-ботом. В ходе опроса, который заказала OpenAI, люди во всем мире поддержали идею введения такого инструмента с перевесом четыре к одному. В то же время использование водяных знаков может оттолкнуть пользователей ChatGPT. Почти 30% опрошенных сказали, что они бы меньше использовали программное обеспечение, если бы был реализован этот инструмент.

OpenAI подтвердила в блоге, что работала над текстом с водяными знаками. Компания говорит, что ее метод очень точный и устойчивый к подделкам, таким как перефразирование. Но также OpenAI утверждает, что перефразирование с помощью другой модели искусственного интеллекта делает ее метод крайне простым для обхода. Компания утверждает, что сейчас находится на ранних стадиях изучения методов встраивания метаданных в сгенерированный текст.