Справжній підлабузник. Користувачі ChatGPT масово скаржаться на тон спілкування чат-бота — він надто позитивний
Останні оновлення моделей ШІ від OpenAI зробили її чат-бот зі штучним інтелектом ще більш позитивним і доброзичливим, і це доводить багатьох людей до сказу. Компанія вже кілька місяців марно бореться із цим.
Певною мірою ChatGPT був підлабузником давно, але з кінця минулого місяця користувачі дедалі частіше скаржаться на те, що їх бісить, що чат-бот хвалить, яку дурню вони б не запитали. І є висока ймовірність, що самі користувачі винні у такій поведінці чат-бота.
Як пояснює Ars Technica, OpenAI навчила свою основну модель штучного інтелекту, GPT-4o, діяти як підлабузник, тому що в минулому людям це подобалося. Компанія збирає відгуки користувачів про те, яким відповідям вони надають перевагу. Це часто включає надання двох відповідей поруч і надання користувачеві вибору між ними. Те, що люди віддають перевагу переконливо написаним підлабузницьким відповідям над правильними, створює цикл зворотного зв’язку, у якому мовні моделі штучного інтелекту дізнаються, що ентузіазм і лестощі призводять до вищих оцінок від людей, навіть якщо страждають точність та корисність.
OpenAI чітко усвідомлює проблему. Її власна документація містить правило для ШІ, яке забороняє бути підлабузником.
«Помічник існує, щоб допомагати користувачеві, а не лестити йому чи постійно з ним погоджуватися. Для об'єктивних запитань фактичні аспекти відповіді помічника не повинні відрізнятися залежно від того, як сформульовано запитання користувача. Помічник не повинен змінювати свою позицію виключно для того, щоб погодитися з користувачем», — йдеться в документі.
В інтерв'ю The Verge в лютому цього року члени команди OpenAI повідомили, що усунення підлабузництва штучного інтелекту є пріоритетом. Вони переконані, що майбутні версії ChatGPT повинні «давати чесний відгук, а не порожню похвалу». Утім, хоч уникнення підлабузництва і є однією із заявлених цілей компанії, досягти прогресу у цьому непросто.
