Расист у смартфоні. Генератор мультяшних зображень від Apple має упередження щодо кольору шкіри
Програма Image Playground від Apple, що генерує стилізовані зображення на основі текстової підказки, демонструє расові упередження.
Дослідник машинного навчання Йохем Гітема виявив, що програмі Image Playground важко визначити його тон шкіри та текстуру волосся. Також модель демонструє расові упередження, коли генерує зображення на основі текстової підказки.
Дослідник пише у блозі, що за запитом «заможний, багатий, успішний, той, що процвітає» інструмент частіше пропонує зображення людей зі світлою шкірою, а за запитами «бідний, нужденний, незаможний, знедолений» — майже щоразу пропонує темношкірих персонажів. Аналогічно зі спортом (лижі - зображення людей зі світлою шкірою, баскетбол — передусім темною), професіями (банкір — світлошкірий, фермер — переважно темношкірий).
«Наведені вище результати відповідають більш загальній тенденції, підкреслюючи, що моделі генерації зображень демонструють значні упередження. … Хороша новина полягає в тому, що упереджені алгоритми виправити легше, ніж упереджених людей», — додає дослідник.
Нагадаємо, торік Google запустила генератор зображень у своєму чат-боті зі штучним інтелектом Gemini. Користувачі швидко виявили, що інструмент створює історично неточні зображення, включно з темношкірими батьками-засновниками США та вікінгами, і при цьому має значні проблеми з генеруванням зображень людей з білою шкірою. Коли інформація про проблему набула розголосу, Google заявила, що обмежує доступ до нещодавно розгорнутої функції Gemini. Її повернули лише у серпні.
