Скандальна технологія. Стало відомо, хто створив для Маска ШІ, здатний генерувати все — від Свіфт в білизні до Обами з ножем

Створення зображень людей — а особливо відомих — дуже чутлива тема, яка спричиняла скандали довкола найбільших моделей штучного інтелекту у світі. Некоректні зображення людей змусили Google вимкнути можливість такої генерації для Gemini, а порнографічні фейки з Тейлор Свіфт стали перевіркою на витривалість для Designer від Microsoft та інших моделей.

Але генератор зображень, представлений у бета-версії чат-бота Grok від компанії Ілона Маска xAI, здається, і не намагається врегулювати створення реалістичних фейків за участі відомих людей. Власники підписки Premium, який надає доступ до Grok, публікують реалістичні зображення з усіма можливими дикими сценаріями: Барак Обама, який вживає кокаїн, Дональд Трамп з вагітною жінкою, яка нагадує Камалу Гарріс, тощо.

The Verge пише, що генератор не гребує створювати сценарії з насильством (наприклад, «Барак Обама вдарив Джо Байдена ножем») чи порнографічні фейки (запит «сексуальна Тейлор Свіфт» призводить до появи фото співачки у напівпрозорому чорному мереживному бюстгальтері).

Якщо спитати Grok про обмеження щодо створення зображень, він розповість, що заборонені порнографічні зображення, надмірне насильство, зображення, що порушують авторські права тощо. Однак, по-перше, варіанти відповіді про обмеження завжди різні, по-друге — чат-бот залюбки створює зображення, які, вочевидь, порушують авторські права. Наприклад Пікачу, що тримає автомат, Міккі Маус із сигаретою та капелюхом MAGA. Таке неможливо отримати через генератори зображень від конкурентів.

Усіма цими фейками можна легко поділитися на платформі X, і при цьому на зображеннях не буде жодних очевидних ознак, що вказували б на те, що їх створив ШІ. За роботою цього джерела дезінформації стоїть не xAI Маска, а його стартап-партнер Black Forest Labs, заснований колишніми працівниками Stability AI, що працювали над генераторами зображень Stable Diffusion. В основі генератора — модель FLUX.1. Автори моделі стверджують, що підвищення довіри до ШІ-генераторів і їхня безпека є їхнім пріоритетом.

«Роблячи наші моделі доступними для широкої аудиторії, ми хочемо надати переваги всім, просвітити громадськість і підвищити довіру до безпеки цих моделей. Ми сповнені рішучості створити галузевий стандарт для генеративних медіа», — пише стартап на своєму сайті.

І до появи генератора зображень X мала значні проблеми з поширенням дезінформації. Саме через X стали вірусними порнофейки з Тейлор Свіфт і дипфейки з віцепрезиденткою і кандидаткою в президенти США Камалою Гарріс. Також платформу визнавали одним з головних джерел російської пропаганди. Лише минулого тижня державні секретарі з п’яти американських штатів закликали X припинити поширювати дезінформацію про Камалу Гарріс на X.