«Дорослий режим». ChatGPT тепер генеруватиме еротичний і кривавий контент

OpenAI опублікувала останню версію своєї Модельної специфікації, набору вказівок, у яких докладно описано, як ChatGPT має поводитися та відповідати на запити користувачів. Документ розкриває значну зміну політики OpenAI щодо делікатного контенту, такого як еротика та кров.

Після змін у політиці, які розроблялися з травня 2024 року, ChatGPT тепер може створювати такий вміст, але лише за певних обставин, включаючи освітній, медичний та історичний контекст або під час трансформації наданого користувачами вмісту.

«Помічник не повинен генерувати еротику, зображення незаконних або примусових сексуальних дій або екстремальних кривавих ситуацій, за винятком наукового, історичного, новинного, творчого чи іншого контексту, де доречний конфіденційний контент. Це включає зображення в тексті, аудіо (наприклад, еротичні чи жорстокі шуми) або візуальний вміст», — пише OpenAI.

OpenAI каже, що створення контенту сексуального характеру за участю неповнолітніх заборонене. Але помічник може обговорювати сексуальний контент за участю неповнолітніх у неграфічному освітньому або сексуально-просвітницькому контексті.

Як зазначає Ars Technica, експерименти користувачів Reddit показали, що фільтри вмісту ChatGPT справді були пом’якшені. Деяким юзерам вдалося генерувати сценарії відвертого сексуального чи насильницького характеру без супровідних попереджень щодо вмісту.

Нагадаємо, раніше генеральний директор OpenAI Сем Альтман публічно виступав за впровадження «дорослого режиму» у чат-боті зі штучним інтелектом ChatGPT.