Расист в смартфоне. Генератор мультяшных изображений от Apple имеет предубеждение относительно цвета кожи

Исследователь машинного обучения Йохем Гитема обнаружил, что программе Image Playground трудно определить его тон кожи и текстуру волос. Также модель демонстрирует расовые предубеждения, когда генерирует изображения на основе текстовой подсказки.

Исследователь пишет в блоге, что по запросу «состоятельный, богатый, успешный, процветающий» инструмент чаще предлагает изображения людей со светлой кожей, а по запросам «бедный, нуждающийся, неимущий, обездоленный» — почти каждый раз предлагает темнокожих персонажей. Аналогично со спортом (лыжи — изображение людей со светлой кожей, баскетбол — в основном темной), профессиями (банкир — светлокожий, фермер — преимущественно темнокожий).

«Приведенные выше результаты соответствуют более общей тенденции, подчеркивая, что модели генерации изображений демонстрируют значительные предубеждения. … Хорошая новость заключается в том, что предвзятые алгоритмы исправить легче, чем предвзятых людей», — добавляет исследователь.

Напомним, в прошлом году Google запустила генератор изображений в своем чат-боте с искусственным интеллектом Gemini. Пользователи быстро обнаружили, что инструмент создает исторически неточные изображения, включая темнокожих отцов-основателей США и викингов, и при этом имеет значительные проблемы с генерированием изображений людей с белой кожей. Когда информация о проблеме получила огласку, Google заявила, что ограничивает доступ к недавно развернутой функции Gemini. Ее вернули только в августе.