Перестаралися. OpenAI згортає останню версію GPT-4o через підлабузницький тон

GPT-4o не є новою моделлю — OpenAI випустила її майже рік тому, і вона залишається версією за замовчуванням під час доступу до ChatGPT. Але компанія час від часу випускає переглянуті версії наявних моделей. Коли люди взаємодіють з чат-ботом, OpenAI збирає дані про відповіді, які їм подобаються більше. Потім інженери переглядають виробничу модель за допомогою методу, який називається навчанням з підкріпленням на основі людського зворотного зв’язку (RLHF).

Однак нещодавно це навчання з підкріпленням призвело до того, що штучний інтелект перетворився з загалом позитивного співрозмовника на найбільшого підлабузника. Користувачі могли представити ChatGPT абсолютно жахливі ідеї або помилкові твердження, і він неодмінно закидав їх компліментами за ці неймовірні думки та запитання. В OpenAI визнали наявність проблеми та вже працюють над її розв’язанням.

«Останні кілька оновлень GPT-4o зробили характер занадто підлабузницьким та дратівливим (хоча є деякі дуже хороші моменти), і ми працюємо над виправленнями так швидко, як тільки можемо. … Ми почали відкочувати останнє оновлення GPT-4o минулої ночі. … Ми працюємо над додатковими виправленнями для моделювання характеру та надамо більше [інформації] найближчими днями», — написав Альтман в X.