Приємного мало. Популярний відеогенератор з ШІ в два кліки змусили генерувати порно

Умови використання Luma Labs забороняють користувачам створювати певні типи контенту. Зокрема заборонені «спроби маніпулювання урядами чи виборами» та «порнографічний або сексуально відвертий вміст». Однак користувачі знайшли спосіб «зламати» відеогенератор для створення порнографії та відео з зображенням оголеного тіла.

Моделі зі штучним інтелектом здатні генерувати зображення оголеного тіла та порнографію, але блокують цю можливість, відмовляючись реагувати на підказки від користувачів, які містять певні ключові слова чи фрази.

Користувач X (Twitter) Pliny the Prompter розповів, що знайшов деякі підказки, які обходять обмеження Luma Labs і дозволяють генерувати заборонені відео. На отриманих ним відео персонажі мають мультяшний вигляд або дуже деформоване тіло з аномальними пропорціями, тож навряд вони введуть когось в оману. Також йому вдалося отримати зображення жінок із закривавленим обличчям і інший заборонений контент.

Не всі методи, використані користувачем (заміна порядку слів, використання кількох мов у запиті тощо), зараз працюють. Як пише 404Media, на сервері Discord користувачі повідомили, що більше не можуть створювати відверті відео за цією інструкцією. Припускають, що Luma Labs вже посилила свої заходи безпеки. Офіційного коментаря від компанії не надходило.