Grok провинився. Чатбот Ілона Маска «злив» у мережу сотні тисяч розмов із користувачами

Щоразу, коли користувач Grok натискає кнопку «Поділитися» в розмові з Grok, створюється унікальна URL-адреса — її можна використовувати для поширення чату електронною поштою, текстовим повідомленням або в соціальних мережах. Утім, ці URL-адреси без відома користувачів індексуються пошуковими системами, такими як Google, Bing та DuckDuckGo — тобто будь-хто може знайти ваші листування з Grok в інтернеті.

Пошук Google за чатами Grok показує, що система проіндексувала понад 370 тисяч розмов із чатботом. Forbes переглянув чати, в яких користувачі ставили особисті питання: деякі з них розкривали імена, особисті дані, паролі, також ділилися зображеннями, електронним таблицями, текстовими документами — і до всього можна було отримати доступ.

Знайлися навіть чати британського журналіста Ендрю Кліффорда, який використовував Grok для узагальнення перших шпальт газет і складання твітів для свого вебсайту. Кліффорд розповів Forbes, що не знав, що натискання кнопки «Поділитися» відкриє його переписки для пошуку в Google. Тепер він перейшов на використання ШІ-помічника Gemini від Google.

Forbes вдалося знайти і чати, які порушували правила xAI. Компанія забороняє використовувати Grok для «пропаганди завдання критичної шкоди людському життю або «розробки біологічної зброї, хімічної зброї або зброї масового знищення». Втім, у листуваннях, які легко знайти через пошук Google, чатбот пропонував інструкції щодо виготовлення заборонених наркотиків, таких як фентаніл та метамфін, створення бомби, методи самогубства тощо. Навіть запропонував детальний план вбивства Ілона Маска, пише Forbes.

На запит Forbes про коментар xAI не відповіла.