Grok провинился. Чатбот Илона Маска «слил» в сеть сотни тысяч разговоров с пользователями

Каждый раз, когда пользователь Grok нажимает кнопку «Поделиться» в разговоре с Grok, создается уникальный URL-адрес — его можно использовать для распространения чата по электронной почте, текстовым сообщением или в социальных сетях. Впрочем, эти URL-адреса без ведома пользователей индексируются поисковыми системами, такими как Google, Bing и DuckDuckGo — то есть любой может найти ваши переписки с Grok в интернете.

Поиск Google по чатам Grok показывает, что система проиндексировала более 370 тысяч разговоров с чатботом. Forbes просмотрел чаты, в которых пользователи задавали личные вопросы: некоторые из них раскрывали имена, личные данные, пароли, также делились изображениями, электронными таблицами, текстовыми документами — и ко всему можно было получить доступ.

Нашлись даже чаты британского журналиста Эндрю Клиффорда, который использовал Grok для обобщения первых полос газет и составления твитов для своего вебсайта. Клиффорд рассказал Forbes, что не знал, что нажатие кнопки «Поделиться» откроет его переписки для поиска в Google. Теперь он перешел на использование ИИ-помощника Gemini от Google.

Forbes удалось найти и чаты, которые нарушали правила xAI. Компания запрещает использовать Grok для «пропаганды нанесения критического вреда человеческой жизни или «разработки биологического оружия, химического оружия или оружия массового уничтожения». Впрочем, в переписках, которые легко найти через поиск Google, чатбот предлагал инструкции по изготовлению запрещенных наркотиков, таких как фентанил и метамфин, создание бомбы, методы самоубийства и тому подобное. Даже предложил подробный план убийства Илона Маска, пишет Forbes.

На запрос Forbes о комментарии xAI не ответила.