Не делитесь с ним секретами. ChatGPT раскрывает пароли, которые пользователи пишут ему в частных разговорах
OpenAI расследует инцидент с утечкой паролей через ChatGPT. Чат-бот раскрывал чувствительную информацию, которую юзеры присылали ему во время использования, в переписках с другими клиентами.
Данные учетных записей и другую личную информацию одних юзеров ChatGPT присылал в ответ на не связанные запросы других, пишет издание Ars Technica со ссылкой на одного из своих читателей.
Два из семи скриншотов, присланных читателем, содержали несколько пар имен пользователей и паролей, которые, вероятно, были подключены к системе поддержки, используемой сотрудниками аптечного портала рецептурных лекарств. Клиент, чьи данные ChatGPT раскрыл другому пользователю, вероятно является сотрудником портала и обратился к чат-боту, чтобы решить проблему с сайтом.
Другие скриншоты, присланные читателями, показали, что чат-бот раскрывал разнообразную потенциально чувствительную информацию, как названия чужой презентации, детали неопубликованного исследовательского предложения и тому подобное. Еще один читатель рассказал, что ChatGPT менял его историю чатов, добавляя туда переписку с другими пользователями. Похожие инциденты массово фиксировались в марте 2023 года, из-за чего OpenAI временно прекращала работу чат-бота.
В основном данные, полученные во время этих внезапных утечек, не намекают на даты их создания и сохранения чат-ботом. Сообщения о портале рецептов были датированы 2020 годом. Представитель OpenAI заявил в комментарии изданию, что компания расследует описанные случаи.
NV Техно писал, что в ноябре исследователи обнаружили ошибку, которая заставляла ChatGPT выдавать данные, на которых его обучали. Набор данных включал адреса электронной почты, номера телефонов и факсов, физические адреса и другие личные данные.
