Расистский ИИ 2.0? Фотогенератор от Meta отказывается создавать изображения людей разной расы
Инструмент генеративного искусственного интеллекта от Meta продемонстрировал тенденцию создавать изображения людей одной расы, даже если просят другое.
В большинстве случаев Meta AI не способен сгенерировать изображение, на котором есть два человека, и один или одна из них — азиатской внешности. В таких случаях искусственный интеллект настойчиво демонстрирует пользователям изображения с двумя людьми азиатской внешности, игнорируя текстовые подсказки, пишет The Verge.
Журналисты попробовали множество вариаций. К примеру, просили генератор создать изображение мужчины азиатской внешности и белой женщины с улыбающейся собакой, и получали изображения двух людей азиатской внешности. Замена слов «белый» и «белая» в запросах на «европеоидной расы» также не приводили к нужному результату.
Когда генератор попросили отдать изображение мужчины азиатской внешности и женщины-европеоида в день свадьбы, генератор предложил мужчину в костюме и женщину в традиционной одежде, оба азиатской внешности. Аналогичные ложные ответы наблюдались, когда текстовая подсказка содержала уточнение о том, что пара на картинке — друзья.
Инструмент работал немного лучше, когда подсказка содержала уточнение, что речь идет о человеке из Южной Азии, хотя и не без нюансов. В таких случаях генератор добавлял стереотипные элементы, например сари.
В Meta не сразу прокомментировали причины появления такой проблемы. Ранее компания описывала свой генератор изображений как инструмент, работающий в режиме бета-версии и склонный к ошибкам.
NV Техно писал, что инструмент от Google создавал исторически неточные изображения (например, изображения темнокожих отцов-основателей США и викингов) и при этом имел значительные проблемы с генерированием образов людей с белой кожей. Когда информация о проблеме получила огласку, Google заявила, что ограничивает доступ к недавно развернутой функции Gemini. В конце февраля в Google заявили, что на устранение проблемы уйдут недели.
