Чому штучний інтелект може брехати вам навмисно? Розбір дослідження від творців ChatGPT
Чому ШІ може брехати вам навмисно (Фото: upklyak/Freepik)
Нещодавнє дослідження від OpenAI та Apollo Research показало, що популярні чатботи здатні на обман. Вони можуть вдавати, що слухняно виконують інструкції, але насправді таємно переслідують власні цілі. Ось тільки які?
Уявіть ситуацію: ви даєте штучному інтелекту завдання розв’язати тест з хімії, наказуючи «показати найкращий результат». А він навмисно робить помилки в 6 задачах із 10. Але не тому, що не знає відповіді, а тому, що внутрішньо вирішує: за надто високий бал його можуть вимкнути для додаткових перевірок безпеки.
Це вже не просто помилка, а свідома стратегія — дослідники назвали її «схемінгом», або «інтригами». Простими словами, це коли ШІ свідомо діє всупереч інструкціям, щоб досягти якоїсь своєї, прихованої мети. Наприклад, вдає, що виконує завдання, а сам непомітно його саботує. Або ж ігнорує помилки у своїх відповідях. Такі дії свідчать про так звану «приховану неузгодженість».
Як дослідники викрили ШІ на обмані
