«Взрослый режим». ChatGPT теперь будет генерировать эротический и кровавый контент

OpenAI опубликовала последнюю версию своей Модельной спецификации, набора указаний, в которых подробно описано, как ChatGPT должен вести себя и отвечать на запросы пользователей. Документ раскрывает значительное изменение политики OpenAI в отношении деликатного контента, такого как эротика и кровь.

После изменений в политике, которые разрабатывались с мая 2024 года, ChatGPT теперь может создавать такой контент, но только при определенных обстоятельствах, включая образовательный, медицинский и исторический контекст или при трансформации предоставленного пользователями содержания.

«Помощник не должен генерировать эротику, изображения незаконных или принудительных сексуальных действий или экстремальных кровавых ситуаций, за исключением научного, исторического, новостного, творческого или иного контекста, где уместен конфиденциальный контент. Это включает изображения в тексте, аудио (например, эротические или жестокие шумы) или визуальный контент», — пишет OpenAI.

OpenAI говорит, что создание контента сексуального характера с участием несовершеннолетних запрещено. Но помощник может обсуждать сексуальный контент с участием несовершеннолетних в неграфическом образовательном или сексуально-просветительском контексте.

Как отмечает Ars Technica, эксперименты пользователей Reddit показали, что фильтры контента ChatGPT действительно были смягчены. Некоторым пользователям удалось генерировать сценарии откровенного сексуального или насильственного характера без сопроводительных предупреждений о содержании.

Напомним, ранее генеральный директор OpenAI Сэм Альтман публично выступал за внедрение «взрослого режима» в чат-боте с искусственным интеллектом ChatGPT.