Приятного мало. Популярный видеогенератор с ИИ в два клика заставили генерировать порно
Видеогенератор Dream Machine от Luma Labs не только использует персонажей Disney в своих сгенерированных роликах, но и охотно создает для пользователей порнографические материалы.
Условия использования Luma Labs запрещают пользователям создавать определенные типы контента. В частности запрещены «попытки манипулирования правительствами или выборами» и «порнографический или сексуально откровенный контент». Однако пользователи нашли способ «взломать» видеогенератор для создания порнографии и видео с изображением обнаженного тела.
Модели с искусственным интеллектом способны генерировать изображения обнаженного тела и порнографию, но блокирует эту возможность, отказываясь реагировать на подсказки от пользователей, которые содержат определенные ключевые слова или фразы.
Пользователь X (Twitter) Pliny the Prompter рассказал, что нашел некоторые подсказки, которые обходят ограничения Luma Labs и позволяют генерировать запрещенные видео. На полученных им роликах персонажи имеют мультяшный вид или очень деформированное тело с аномальными пропорциями, поэтому вряд ли они введут кого-то в заблуждение. Также ему удалось получить изображения женщин с окровавленным лицом и другой запрещенный контент.
Не все методы, использованные пользователем (замена порядка слов, использование нескольких языков в запросе и т. Д.), В настоящее время работают. Как пишет 404Media, на сервере Discord пользователи сообщили, что больше не могут создавать откровенные видео по этой инструкции. Предполагают, что Luma Labs уже усилила свои меры безопасности. Официального комментария от компании не поступало.
