З турботою про вас. В OpenAI назвали дивну причину не додавати водяні знаки на тексти, створені ChatGPT

OpenAI має систему водяних знаків для тексту, створеного ChatGPT, і інструмент для виявлення водяних знаків, який готовий вже приблизно рік, Однак всередині компанії немає єдності щодо того, чи варто його випускати, пише The Wall Street Journal.

З одного боку, запровадження водяних знаків здається відповідальною справою, а з іншого, це може зашкодити прибутку. Водяний знак OpenAI описується як налаштування того, як модель передбачає найімовірніші слова та фрази, які слідуватимуть за попередніми, створюючи шаблон, який можна виявити. Будь-який якісний інструмент для виявлення матеріалів, написаних ШІ, є потенційною перевагою, наприклад, для вчителів, прагнуть, аби студенти робили завдання самостійно.

Компанія виявила, що водяні знаки не впливають на якість виведення тексту чат-ботом. Під час опитування, яке замовила OpenAI, люди у всьому світі підтримали ідею запровадження такого інструменту з перевагою чотири до одного. Водночас використання водяних знаків може відштовхнути користувачів ChatGPT. Майже 30% опитаних сказали, що вони б менше використовували програмне забезпечення, якби було реалізовано цей інструмент.

OpenAI підтвердила в блозі що працювала над текстом із водяними знаками. Компанія каже, що її метод дуже точний і стійкий до підробок, таких як перефразування. Але також OpenAI стверджує, що перефразування за допомогою іншої моделі штучного інтелекту робить її метод вкрай простим для того, щоб його обійти. Компанія стверджує, що зараз перебуває на ранніх стадіях вивчення методів вбудовування метаданих у згенерований текст.