Расистский ИИ? Gemini от Google оказался неспособным создавать изображения с белыми людьми

Пользователи обнаружили, что Gemini иногда может отказываться выполнять запрос, когда просят создать изображения белых людей. В то же время запросы об изображениях с темнокожими людьми ИИ выполнял без проблем. Более того, генератор создавал исторически ложные фото, например, темнокожих викингов и отцов-основателей США, и имел ряд других проблем.

Google признала наличие ошибки в Gemini, но не раскрыла причины ее появления. Возможность создавать изображения в Gemini временно ограничили.

«Мы уже работаем над решением последних проблем с функцией создания изображений Gemini. Пока мы это делаем, мы собираемся приостановить создание изображений людей и вскоре повторно выпустим улучшенную версию», — сообщается на странице Google Communications в X.

Это не первый случай, когда ИИ-модель имеет проблемы с генерированием изображений людей с определенным цветом кожи. Недавнее расследование The Washington Post показало, что генератор изображений с искусственным интеллектом Stable Diffusion почти всегда идентифицировал получателей талонов на бесплатное питание как темнокожих людей, хотя большинство таких людей в США являются белыми. А NPR сообщало, что Midjourney подвергался критике из-за того, что во время многичисленных тестов не смог создать изображение, на котором темнокожий врач лечит белых детей. OpenAI, чтобы избежать недоразумений, предупреждает клиентов, что ее генератор изображений Dall-E «наследует различные предубеждения от своих учебных данных, а его результаты иногда укрепляют общественные стереотипы».

ИИ от Google также не впервые оказывается в центре скандала из-за функции генерирования изображений. Google объявила о внедрении возможности генерировать изображения в ее чат-боте с искусственным интеллектом Bard, который в конце концов был переименован в Gemini, ранее в этом месяце. Это произошло после того, как разгорелся скандал с распространением порнофейков с певицей Тейлор Свифт. Компания не приняла достаточно мер, чтобы предотвратить создание изображений с певицей и другими известными людьми: ее защиту легко обошли.