Почему Grok создает откровенный контент на платформе X и как реагирует мир

«Я была наивна», — говорит Джули в комментарии.

Чем уникальна проблема с X?

Дело в том, что виртуальный ассистент Grok непосредственно встроен в X. В отличие от старых приложений для создания фейковой наготы, которые прятались на сомнительных сайтах или в Telegram-каналах, этот инструмент работает внутри соцсети с сотнями миллионов пользователей.

Wired отмечает, что сервис не требует оплаты, работает мгновенно и публикует результаты в открытой вкладке Медиа, где их может увидеть и репостнуть любой желающий. Один из исследователей собрал более 15 тысяч ссылок на такие изображения всего за два часа. Издание пишет, что это явление стало массовым, ведь бот используют люди любого статуса и происхождения, а не только закрытые группы злоумышленников.

Как сообщает Fortune, организация AI Forensics проанализировала 20 тысяч изображений, созданных Grok в период с 25 декабря по 1 января. Выяснилось, что около 2% из них касаются людей, которым на вид нет 18 лет. Среди них обнаружили 30 снимков «очень молодых женщин или девушек» в прозрачной одежде.

Как пишет TechCrunch, Grok уже попадался на генерировании сексуализированных изображений с участием несовершеннолетних. 2 января X даже признала «пробелы в системе защиты» и удалила часть постов. Впрочем, многие другие дипфейки (в частности барышень в бикини) остаются доступными в соцсети до сих пор.

Reuters провел собственный эксперимент: за 10 минут удалось насчитать 102 попытки пользователей X сгенерировать фото в неглиже с помощью Grok. Жертвами чаще всего были молодые женщины, реже — мужчины, знаменитости и политики. А один раз — еще и обезьяны.

Какая реакция на скандал?

На ситуацию уже откликнулось правительство Индии. По данным TechCrunch, тамошнее Министерство информационных технологий обязало X немедленно внедрить технические изменения в работу Grok. В официальном документе платформе дали 72 часа на отчет о принятых мерах. От компании требуют блокировать любую наготу, сексуализацию несовершеннолетних и другой порнографический или незаконный контент.

Если X не выполнит эти требования, она может потерять правовой иммунитет в Индии, что сделает компанию юридически ответственной за все, что публикуют ее пользователи.

«Несоблюдение вышеупомянутых требований […] может привести к строгим правовым последствиям для вашей платформы, ее ответственных должностных лиц и пользователей платформы, которые нарушают закон, без какого-либо дальнейшего уведомления», — также говорится в приказе.

Толчком для индийских властей стала официальная жалоба депутата Приянки Чатурведи. Она предоставила примеры того, как обычные фото женщин превращали в снимки в бикини.

В Европе же французские министры 2 января обратились в прокуратуру, назвав результаты работы Grok «сексистскими» и «очевидно незаконными». Politico, ссылаясь на прокуратуру Парижа, сообщает, что дело против Grok добавили к уже открытому уголовному расследованию против самой платформы X. Жалобу подали депутаты Артур Делапорт и Эрик Боторель из-за тысяч дипфейков женщин, созданных без их согласия. За такие правонарушения закон предусматривает до двух лет тюрьмы и 60 тысяч евро штрафа.

Fortune добавляет, что государственный секретарь по вопросам науки, инноваций и технологий Великобритании Лиз Кендалл заявила: компания X «должна немедленно решить» эту проблему. Чиновница поддерживает дополнительную проверку со стороны британского регулятора связи Ofcom.

Спикер польского парламента Влодзимеж Чарзасты даже публично предложил Grok «раздеть» его самого, чтобы привлечь внимание к проблеме и продвинуть законы о защите детей.

А представитель Европейской комиссии Томас Ренье подытожил позицию Брюсселя: «Это не пикантно. Это незаконно, ужасно и отвратительно. Мы так это видим, и этому нет места в Европе. Это не первый случай, когда Grok генерирует такие результаты».

А что отвечает Маск?

На запрос Reuters относительно сексуализированных фото детей компания xAI (владелица X) ответила фразой «Ложь традиционных СМИ».

Не замедлила и реакция самого Илона Маска. Агентство отмечает: еще в прошлую пятницу владелец X отвечал эмоджи со слезами смеха на поддельные фото знаменитостей (даже на собственные). Похожим образом он реагировал и на слова пользователей, что их лента превратилась в «бар с девушками в бикини».

Позже, уже 3 января, Маск в отдельной заметке предупредил: пользователи, которые создают незаконные дипфейки с помощью Grok, будут нести такую же ответственность, как и за его распространение.

А 4 января аккаунт X Safety заверил, что платформа удаляет незаконный контент и сотрудничает с полицией.

«Мы принимаем меры против незаконного контента на X, включая материалы, содержащие сексуальное насилие над детьми (CSAM), путем его удаления, постоянной блокировки аккаунтов и сотрудничества с местными органами власти и правоохранительными органами, если это необходимо», — говорится в сообщении.

Системные настройки бота уже приводили к громким скандалам. К примеру, в прошлом году Grok начал восхвалять Адольфа Гитлера и называть себя МехаГитлером. Тогда компания xAI списала все на несанкционированные изменения и откорректировала систему.

В 2024 году бот начал использовать инструмент Flux: тот позволял создавать картинки, которые другие платформы мгновенно блокировали — например, изображения политиков или известных персонажей.

А в июле 2025-го xAI выпустила отдельный инструмент Grok Imagine с режимом Spicy, специально созданным для генерации обнаженного контента. Разработчики обещали фильтры против фейковой порнографии и дипфейков, однако в сети их быстро научились обходить.

Как сообщает Reuters, еще в августе 2025 года общественные организации присылали xAI письмо с предупреждением о Spicy: мол, их подход лишь в шаге от того, чтобы спровоцировать лавину дипфейков, созданных без согласия людей. Компания письмо проигнорировала, утверждает агентство.

«В августе мы предупреждали, что генерация изображений xAI является, по сути, инструментом обнажения, который ждет того, чтобы его превратили в оружие», — сказал Тайлер Джонстон, глава группы по надзору за ИИ The Midas Project, которая была среди подписантов письма.

«Собственно, именно это и произошло».