Не діліться з ним секретами. ChatGPT розкриває паролі, котрі користувачі пишуть йому в приватних розмовах
OpenAI розслідує інцидент з витоком паролів через ChatGPT. Чат-бот розкривав чутливу інформацію, яку юзери надсилали йому під час використання, у листуваннях з іншими клієнтами.
Дані облікових записів та іншу особисту інформацію одних юзерів ChatGPT надсилав у відповідь на не пов’язані запити інших, пише видання Ars Technica з посиланням на одного зі своїх читачів.
Два із семи скриншотів, надісланих читачем, містили кілька пар імен користувачів і паролів, які, ймовірно, були підключені до системи підтримки, яку використовували працівники аптечного порталу рецептурних ліків. Клієнт, чиї дані ChatGPT розкрив іншому користувачеві, ймовірно є співробітником порталу і звернувся до чат-бота, аби розв’язати проблему з сайтом.
Інші скриншоти, надіслані читачами, показали, що чат-бот розкривав різноманітну потенційно чутливу інформацію, як-от назва чужої презентації, деталі неопублікованої дослідницької пропозиції тощо. Ще один читач розповів, що ChatGPT змінював його історію чатів, додаючи туди листування з іншими користувачами. Схожі інциденти масово фіксувалися у березні 2023 року, через що OpenAI тимчасово припиняла роботу чат-бота.
Переважно дані, отримані під час цих раптових витоків, не натякають на дати їх створення та збереження чат-ботом. Повідомлення про портал рецептів були датовані 2020 роком. Представник OpenAI заявив в коментарі виданню, що компанія розслідує описані випадки.
NV Техно писав, що у листопаді дослідники виявили помилку, яка змушувала ChatGPT видавати дані, на яких його навчали. Набір даних включав адреси електронної пошти, номери телефонів і факсів, фізичні адреси та інші особисті дані.
