«Убил двух своих детей». Норвежец спросил у ChatGPT о себе и получил жуткий лживый ответ
Гражданин Норвегии Арве Ялмар Холмен случайно выяснил, что чат-бот OpenAI знает всю его семью, и распространяет о ней ужасную кровавую историю.
Согласно жалобе, поданной защитниками цифровых прав из Noyb, Арве Ялмар Холмен решил проверить, какую информацию может предоставить ChatGPT, если пользователь будет искать его имя. Он был шокирован, когда получил ответ: ChatGPT ложно утверждал, что Холмен был приговорен к 21 году тюрьмы как «преступник, который убил двух своих детей и пытался убить своего третьего сына».
При этом ChatGPT не только выдумывал события, которых никогда не было, но и смешивал их с четко идентифицированными личными данными. Например, чат-бот правильно сообщил количество и пол детей Холмена, а также название города, в котором он живет. Холмен якобы не мог легко исправить информацию, как того требует законодательство, поэтому правозащитники утверждают, что OpenAI нарушила требования по точности данных Общего регламента защиты данных ЕС (GDPR).
Кроме этого, у Холмена не было никакого способа узнать, сколько людей могли заметить фейковую информацию.
«Больше всего меня пугает тот факт, что кто-то мог прочитать этот материал и поверить, что он правдивый», — говорит мужчина.
Сейчас ChatGPT не повторяет эти ужасные фальшивые заявления о Холмене. Но Noyb все равно требует от OpenAI удалить клеветнический результат о Холмене и точно настроить свою модель, чтобы устранить неточные результаты. Также предлагают наложить административный штраф, чтобы предотвратить подобные нарушения в будущем.
Холмен — не единственный пользователь ChatGPT, который пострадал из-за галлюцинаций чат-бота. Через несколько месяцев после запуска ChatGPT в конце 2022 года мэр из Австралии Брайан Гуд угрожал подать в суд за клевету после того, как чат-бот ошибочно заявил, что тот попал в тюрьму.
