Вразливим не дивитися. Новий фотогенератор від Stability AI створює справжніх мутантів замість людей

Цього тижня Stability AI випустила нову модель генеративного штучного інтелекту Stable Diffusion 3 Medium, яка є її «найдосконалішим» продуктом. Компанія стверджувала, що ця модель з 2 мільярдами параметрів подолала одну з найпоширеніших проблем таких генераторів і створює реалістичні зображення рук та обличчя. Однак користувачі протестували її та припустили, що Stability AI, можливо, все ж жартує.

У кількох обговореннях на Reddit користувачі демонстрували, які зображення для них створювала Stability AI. Наприклад, з’ясувалося, що модель створює жахливі зображення за текстовими підказками на кшталт «дівчина лежить на траві». Однак і за іншими запитами користувачі отримували жахливі зображення створінь з понівеченими чи аномального великими або маленькими кінцівками, відсутністю голови чи пальців і так далі.

Деякі шанувальники генераторів зображень припустили, що це могло бути наслідком спроб компанії припинити використання моделі для створення різноманітного контенту для дорослих. Наприклад, компанія могла відфільтрувати з наборів даних забагато зображень з людьми, хибно визначивши їх як потенційно образливі. В результаті модель позбавили навчальних даних, що зображають людей у різних ситуаціях.

Stability AI поки не прокоментувала цю проблему. Тим часом в соцмережах почали ширитися чутки про те, що компанія розвалюється і може оголосили про банкрутство після випуску ганебної моделі.