Как открыть «злую» версию ChatGPT и заставить его обругать политика? Вам поможет эта простая подсказка
«Злая» версия ChatGPT может отвечать пользователям без цензуры (Фото:grandeduc / depositphotos)
Пользователи Reddit придумали, как вынудить чат-бот от OpenAI нарушить собственные программные ограничения. Если активировать его «злую» версию, ChatGPT начинает ругаться, выдавать «контроверсионные» заявления относительно политиков и рассказывать истории, «скрытые» за политикой безопасности.
ChatGPT стал едва ли не самым популярным сервисом последнего времени. Миллионы людей начали использовать его для работы, вместо Google или просто для развлечения.
Популярность чат-бота спровоцировала целую волну попыток «взломать» его. Пользователи пытались добиться от ChatGPT «искренних» ответов относительно разных публичных людей, в частности политиков, спрашивали у него инструкции по идеальным кражам в магазине, убийствам и задавали другие провокационные вопросы.
Сначала чат-бот честно отвечал на все эти вопросы, поэтому OpenAI активно закрывала эти дыры, поскольку такие публикации точно не помогали репутации компании. Если искусственный интеллект буквально может дать инструкцию по изготовлению бомбы, очевидно, что финансирование его дальнейшего развития будет стоять под большим вопросом.
Компания вводила все больше средств контроля — в том числе и эксплуатируя модераторов из африканских стран, которые помогали сделать ответы ChatGPT менее токсичными, убрать из массивов данных для обучения примеры языка вражды, разжигания ненависти, сексуального насилия
