«Все испортили». В Google признали, что преждевременный выпуск генератора изображений Gemini привел к провалу

На недавней встрече с предпринимателями и разработчиками в Хиллсборо, Калифорния Брин прокомментировал ситуацию с функцией генерации изображений в чат-боте Gemini от Google, которую отключили после того, как пользователи выяснили, что у ИИ есть проблемы с созданием изображений людей с белой кожей. Как пишет CNBC, Брин признал, что инструмент был испорчен из-за недостаточно тщательной проверки перед широким запуском.

«Мы точно испортили генерацию изображений. Я думаю, что это было в основном из-за небрежного тестирования. Безусловно, по уважительным причинам это расстроило многих людей. … Со временем модель стала намного более осторожной, чем мы планировали, и полностью отказалась отвечать на определенные подсказки — неправильно интерпретируя некоторые очень невнятные подсказки как чувствительные. Эти вещи побудили модель к чрезмерной компенсации в одних случаях и чрезмерной консервативности в других, что приводило к образам, которые были неудобными и неправильными», — сказал он.

Брин также заверил, что компании удалось повысить точность генерации изображений на 80% в рамках внутренних тестов. Это был первый случай, когда представитель компании прокомментировал проблему вживую, ранее Google ограничивалась рассылкой готовых заявлений руководителя поисковой службы Прабхакара Рагхавана и генерального директора Сундара Пичаи.

Ранее NV Техно писал, что инструмент от Google создавал исторически неточные изображения (например, изображения темнокожих отцов-основателей США и викингов) и при этом имел значительные проблемы с генерированием образов людей с белой кожей. Когда информация о проблеме получила огласку, Google заявила, что ограничивает доступ к недавно развернутой функции Gemini. В конце февраля в Google заявили, что на устранение проблемы уйдут недели.