«Вбив двох своїх дітей». Норвежець спитав у ChatGPT про себе і отримав моторошну брехливу відповідь
Громадянин Норвегії Арве Ялмар Холмен випадково з’ясував, що чат-бот OpenAI знає всю його родину, і поширює про неї жахливу криваву історію.
Відповідно до скарги, поданої захисниками цифрових прав з Noyb, Арве Ялмар Голмен вирішив перевірити, яку інформацію може надати ChatGPT, якщо користувач шукатиме його ім'я. Він був шокований, коли отримав відповідь: ChatGPT неправдиво стверджував, що Голмена було засуджено до 21 року в’язниці як «злочинця, який убив двох своїх дітей і намагався вбити свого третього сина».
При цьому ChatGPT не тільки вигадував події, яких ніколи не було, але й змішував їх з чітко ідентифікованими особистими даними. Наприклад, чат-бот правильно повідомив кількість і стать дітей Голмена, а також назву міста, в якому він живе. Голмен нібито не міг легко виправити інформацію, як того вимагає законодавство, тож правозахисники стверджують, що OpenAI порушила вимоги щодо точності даних Загального регламенту захисту даних ЄС (GDPR).
Крім цього, у Голмена не було жодного способу дізнатися, скільки людей могли помітити фейкову інформацію.
«Найбільше мене лякає той факт, що хтось міг прочитати цей матеріал і повірити, що він правдивий», — каже чоловік.
Зараз ChatGPT не повторює ці жахливі фальшиві заяви про Голмена. Але Noyb все одно вимагає від OpenAI видалити наклепницький результат про Голмена і точно налаштувати свою модель, щоб усунути неточні результати. Також пропонують накласти адміністративний штраф, щоб запобігти подібним порушенням у майбутньому.
Голмен — не єдиний користувач ChatGPT, який постраждав через галюцинації чат-бота. Через кілька місяців після запуску ChatGPT наприкінці 2022 року мер з Австралії Браян Гуд погрожував подати до суду за наклеп після того, як чат-бот помилково заявив, що той потрапив до в’язниці.
