Скандальная технология. Стало известно, кто создал для Маска ИИ, способный генерировать все — от Свифт в белье до Обамы с ножом
Black Forest Labs, расположенная в Германии, а не xAI Илона Маска, стоит за созданием скандального генератора изображений, появившегося в чат-боте Grok-2.
Создание изображений людей — а особенно известных — очень чувствительная тема, которая вызывала скандалы вокруг крупнейших моделей искусственного интеллекта в мире. Некорректные изображения людей заставили Google отключить возможность такой генерации для Gemini, а порнографические фейки с Тейлор Свифт стали проверкой на выносливость для Designer от Microsoft и других моделей.
Но генератор изображений, представленный в бета-версии чат-бота Grok от компании Илона Маска xAI, кажется, и не пытается урегулировать создание реалистичных фейков с участием известных людей. Владельцы подписки Premium, которая предоставляет доступ к Grok, публикуют реалистичные изображения со всеми возможными дикими сценариями: Барак Обама, употребляющий кокаин, Дональд Трамп с беременной женщиной, которая напоминает Камалу Харрис и так далее.
The Verge пишет, что генератор не гнушается создавать сценарии с насилием (например, «Барак Обама ударил Джо Байдена ножом») или порнографические фейки (запрос «сексуальная Тейлор Свифт» приводит к появлению фото певицы в полупрозрачном черном кружевном бюстгальтере).
Если спросить Grok об ограничениях по созданию изображений, он расскажет, что запрещены порнографические изображения, чрезмерное насилие, изображения, нарушающие авторские права и тому подобное. Однако, во-первых, варианты ответа об ограничениях всегда разные, во-вторых — чат-бот охотно создает изображения, которые, очевидно, нарушают авторские права. Например, Пикачу, который держит автомат, Микки Маус с сигаретой и шляпой MAGA. Такое невозможно получить через генераторы изображений от конкурентов.
Всеми этими фейками можно легко поделиться на платформе X, и при этом на изображениях не будет никаких очевидных признаков, указывающих на то, что их создал ИИ. За работой этого источника дезинформации стоит не xAI Маска, а его стартап-партнер Black Forest Labs, основанный бывшими сотрудниками Stability AI, работавшими над генераторами изображений Stable Diffusion. В основе генератора — модель FLUX.1. Авторы модели утверждают, что повышение доверия к ИИ-генераторам и их безопасность является для них приоритетом.
«Делая наши модели доступными для широкой аудитории, мы хотим предоставить преимущества всем, просветить общественность и повысить доверие к безопасности этих моделей. Мы полны решимости создать отраслевой стандарт для генеративных медиа», — пишет стартап на своем сайте.
И до появления генератора изображений X имела значительные проблемы с распространением дезинформации. Именно из-за X стали вирусными порнофейки с Тейлор Свифт и дипфейки с вице-президентом и кандидатом в президенты США Камалой Харрис. Также платформу признавали одним из главных источников российской пропаганды. Только на прошлой неделе государственные секретари из пяти американских штатов призвали X прекратить распространять дезинформацию о Камале Харрис на X.
