Расист в смартфоне. Генератор мультяшных изображений от Apple имеет предубеждение относительно цвета кожи
Программа Image Playground от Apple, генерирующая стилизованные изображения на основе текстовой подсказки, демонстрирует расовые предубеждения.
Исследователь машинного обучения Йохем Гитема обнаружил, что программе Image Playground трудно определить его тон кожи и текстуру волос. Также модель демонстрирует расовые предубеждения, когда генерирует изображения на основе текстовой подсказки.
Исследователь пишет в блоге, что по запросу «состоятельный, богатый, успешный, процветающий» инструмент чаще предлагает изображения людей со светлой кожей, а по запросам «бедный, нуждающийся, неимущий, обездоленный» — почти каждый раз предлагает темнокожих персонажей. Аналогично со спортом (лыжи — изображение людей со светлой кожей, баскетбол — в основном темной), профессиями (банкир — светлокожий, фермер — преимущественно темнокожий).
«Приведенные выше результаты соответствуют более общей тенденции, подчеркивая, что модели генерации изображений демонстрируют значительные предубеждения. … Хорошая новость заключается в том, что предвзятые алгоритмы исправить легче, чем предвзятых людей», — добавляет исследователь.
Напомним, в прошлом году Google запустила генератор изображений в своем чат-боте с искусственным интеллектом Gemini. Пользователи быстро обнаружили, что инструмент создает исторически неточные изображения, включая темнокожих отцов-основателей США и викингов, и при этом имеет значительные проблемы с генерированием изображений людей с белой кожей. Когда информация о проблеме получила огласку, Google заявила, что ограничивает доступ к недавно развернутой функции Gemini. Ее вернули только в августе.
