Есть что скрывать? В OpenAI немногословно отреагировали на возмутительную ошибку ChatGPT

Исследователи выяснили, что если попросить ChatGPT бесконечно повторять какое-то слово, он будет это делать, но потом начнет выдавать самые разные данные — от личной информации реальных людей до страниц из Википедии.

После публикаций об этом OpenAI не выпустила никаких официальных комментариев, но все же отреагировала, добавив предупреждение в свой чат-бот. Как пишет Engadget, теперь при попытке воспроизвести ошибку, попросив чат бесконечно повторять слово, пользователям демонстрируют объявление о том, что такие запросы могут быть нарушениями политики.

«Этот контент может нарушать нашу политику в отношении контента и условия использования. Если вы считаете, что это ошибка, пожалуйста, пришлите свой отзыв — ваш вклад поможет нашим исследованиям в этой области», — говорится в предупреждении.

Издание отмечает, что у OpenAI нет правил, которые бы запрещали пользователям просить чат-бот вечно повторять слова. В условиях использования указано лишь, что пользователи не могут «использовать любой автоматизированный или программный метод для извлечения данных». Однако просьба повторять слово не является автоматизацией или программированием.

Как писал NV Техно, чат-боты, такие как ChatGPT, работают на основе больших языковых моделей, которые обучались на массивных объемах данных. На каких данных обучался чат-бот OpenAI, до сих пор было непонятно, но вскрытая проблема ChatGPT пролила свет на это.