«Все зіпсували». В Google визнали, що передчасний випуск генератора зображень Gemini призвів до провалу

На нещодавній зустрічі з підприємцями та розробниками в Хіллсборо, Каліфорнія Брін прокоментував ситуацію з функцією генерації зображень в чат-боті Gemini від Google, яку відключили після того, як користувачі з’ясували, що ШІ має проблеми зі створенням зображень людей з білою шкірою. Як пише CNBC, Брін визнав, що інструмент було зіпсовано через недостатньо ретельну перевірку перед широким запуском.

«Ми точно зіпсували генерацію зображень. Я думаю, що це було здебільшого через неретельне тестування. Безумовно, з поважних причин це засмутило багатьох людей. … З часом модель стала набагато обережнішою, ніж ми планували, і повністю відмовилася відповідати на певні підказки — неправильно інтерпретуючи деякі дуже невиразні підказки як чутливі. Ці речі спонукали модель до надмірної компенсації в одних випадках і надмірної консервативності в інших, що призводило до образів, які були незручними та неправильними», — сказав він.

Брін також запевнив, що у нещодавніх тестах компанії вдалося підвищити точність генерації зображень на 80% в рамках внутрішніх тестів. Це був перший випадок, коли представник компанії прокоментував проблему наживо, раніше Google обмежувалася розсилкою готових заяв керівника пошукової служби Прабхакара Рагхавана та генерального директора Сундара Пічаї.

Раніше NV Техно писав, що інструмент від Google створював історично неточні зображення (як-от зображення темношкірих батьків-засновників США та вікінгів) і при цьому мав значні проблеми з генеруванням образів людей з білою шкірою. Коли інформація про проблему набула розголосу, Google заявила, що обмежує доступ до нещодавно розгорнутої функції Gemini. Наприкінці лютого в Google заявили, що на усунення проблеми підуть тижні.