Чому Grok створює відвертий контент на платформі X і як реагує світ

«Я була наївна», — каже Джулі в коментарі.

Чим унікальна проблема з X?

Річ у тім, що віртуальний асистент Grok безпосередньо вбудований в X. На відміну від старих додатків для створення фейкової наготи, які ховалися на сумнівних сайтах чи в Telegram-каналах, цей інструмент працює всередині соцмережі з сотнями мільйонів користувачів.

Wired зауважує, що сервіс не потребує оплати, працює миттєво і публікує результати у відкритій вкладці Медіа, де їх може побачити та репостнути будь-хто. Один із дослідників зібрав понад 15 тисяч посилань на такі зображення лише за дві години. Видання пише, що це явище стало масовим, адже бот використовують люди будь-якого статусу й походження, а не лише закриті групи зловмисників.

Як повідомляє Fortune, організація AI Forensics проаналізувала 20 тисяч зображень, створених Grok у період з 25 грудня по 1 січня. З’ясувалося, що близько 2% з них стосуються людей, яким на вигляд немає 18 років. Серед них виявили 30 знімків «дуже молодих жінок або дівчат» у прозорому одязі.

Як пише TechCrunch, Grok уже попадався на генеруванні сексуалізованих зображень за участю неповнолітніх. 2 січня X навіть визнала «прогалини в системі захисту» і видалила частину постів. Утім, чимало інших дипфейків (зокрема панянок у бікіні) залишаються доступними в соцмережі дотепер.

Reuters провів власний експеримент: за 10 хвилин вдалося нарахувати 102 спроби користувачів X згенерувати фото в негліже за допомогою Grok. Жертвами найчастіше були молоді жінки, рідше — чоловіки, знаменитості й політики. А один раз — ще й мавпи.

Яка реакція на скандал?

На ситуацію вже відгукнувся уряд Індії. За даними TechCrunch, тамтешнє Міністерство інформаційних технологій зобов’язало X негайно впровадити технічні зміни в роботу Grok. В офіційному документі платформі дали 72 години на звіт про вжиті заходи. Від компанії вимагають блокувати будь-яку наготу, сексуалізацію неповнолітніх та інший порнографічний чи незаконний контент.

Якщо X не виконає ці вимоги, вона може втратити правовий імунітет в Індії, що зробить компанію юридично відповідальною за все, що публікують її користувачі.

«Недотримання вищезазначених вимог […] може призвести до суворих правових наслідків для вашої платформи, її відповідальних посадових осіб та користувачів платформи, які порушують закон, без будь-якого подальшого повідомлення», — також ідеться в наказі.

Поштовхом для індійської влади стала офіційна скарга депутатки Пріянки Чатурведі. Вона надала приклади того, як звичайні фото жінок перетворювали на знімки в бікіні.

У Європі ж французькі міністри 2 січня звернулися до прокуратури, назвавши результати роботи Grok «сексистськими» та «очевидно незаконними». Politico, посилаючись на прокуратуру Парижа, повідомляє, що справу проти Grok додали до вже відкритого кримінального розслідування проти самої платформи X. Скаргу подали депутати Артур Делапорт та Ерік Боторель через тисячі дипфейків жінок, створених без їхньої згоди. За такі правопорушення закон передбачає до двох років в’язниці та 60 тисяч євро штрафу.

Fortune додає, що державна секретарка з питань науки, інновацій та технологій Великої Британії Ліз Кендалл заявила: компанія X «має негайно вирішити» цю проблему. Урядовиця підтримує додаткову перевірку з боку британського регулятора зв’язку Ofcom.

Спікер польського парламенту Влодзімеж Чарзасти навіть публічно запропонував Grok «роздягнути» його самого, щоб привернути увагу до проблеми та просунути закони про захист дітей.

А речник Європейської комісії Томас Реньє підсумував позицію Брюсселя: «Це не пікантно. Це незаконно, жахливо та огидно. Ми так це бачимо, і цьому немає місця в Європі. Це не перший випадок, коли Grok генерує такі результати».

А що відповідає Маск?

На запит Reuters щодо сексуалізованих фото дітей компанія xAI (власниця X) відповіла фразою «Брехня традиційних ЗМІ».

Не забарилася й реакція самого Ілона Маска. Агентство зауважує: ще минулої п’ятниці власник X відповідав емоджі зі сльозами сміху на підроблені фото знаменитостей (навіть на власні). Схожим чином він реагував і на слова користувачів, що їхня стрічка перетворилася на «бар із дівчатами в бікіні».

Пізніше, вже 3 січня, Маск в окремому дописі попередив: користувачі, які створюють незаконні дипфейки за допомогою Grok, нестимуть таку ж відповідальність, як і за його поширення.

А 4 січня акаунт X Safety запевнив, що платформа видаляє незаконний контент і співпрацює з поліцією.

«Ми вживаємо заходів проти незаконного контенту на X, включаючи матеріали, що містять сексуальне насильство над дітьми (CSAM), шляхом його видалення, постійного блокування акаунтів та співпраці з місцевими органами влади та правоохоронними органами, якщо це необхідно», — ідеться в дописі.

Системні налаштування бота уже призводили до гучних скандалів. Приміром, торік Grok почав вихваляти Адольфа Гітлера та називати себе МехаГітлером. Тоді компанія xAI списала все на несанкціоновані зміни та відкоригувала систему.

У 2024 році бот почав використовувати інструмент Flux: той дозволяв створювати картинки, які інші платформи миттєво блокували — як-от зображення політиків чи відомих персонажів.

А в липні 2025-го xAI випустила окремий інструмент Grok Imagine з режимом Spicy, спеціально створеним для генерації оголеного контенту. Розробники обіцяли фільтри проти фейкової порнографії та дипфейків, проте в мережі їх швидко навчилися обходити.

Як повідомляє Reuters, ще в серпні 2025 року громадські організації надсилали xAI листа з попередженням щодо Spicy: мовляв, їхній підхід лише за крок від того, щоб спровокувати лавину дипфейків, створених без згоди людей. Компанія листа проігнорувала, стверджує агентство.

«У серпні ми попереджали, що генерація зображень xAI є, по суті, інструментом оголення, який чекає на те, щоб його перетворили на зброю», — сказав Тайлер Джонстон, очільник групи з нагляду за ШІ The Midas Project, яка була серед підписантів листа.

«Власне, саме це й відбулося».