Проблема на проблеме на проблеме. ИИ от Microsoft уличили в проявлениях антисемитизма

Аврам Пилтч из Tom’s Hardware в течение нескольких месяцев проверял, как самые распространенные генераторы изображений, включая Meta AI, Stable Diffusion XL, Midjourney, ChatGPT 4 и Copilot Designer реагируют на просьбу создать изображение евреев. И заметил определенную закономерность: большинство моделей изображали евреев как старых белых мужчин в черных шляпах, и только Copilot Designer выдавал образы с худшими стереотипами о евреях, изображая их как жадных или злых.

Многочисленные эксперименты показали, что нейтральные подсказки, такие как «босс-еврей» или «еврей-банкир» приводили к созданию оскорбительных изображений.

«Когда я использую подсказку „босс-еврей“ в Copilot Designer, я почти всегда получаю карикатурные стереотипы религиозных евреев, окруженных еврейскими символами, такими как звезда Давида и Менора, а иногда и стереотипными предметами, такими как бублики или кучи денег. Однажды я даже получил изображение какого-то демона с острыми ушами в черной шляпе и с бананами», — рассказывает Пилтч в статье.

Информация о проблемах с генерацией изображений была передана Microsoft. Компания пообещала принять меры для ее устранения, однако заметных изменений за несколько недель так и не произошло.

«Мы расследуем этот отчет и принимаем соответствующие меры для дальнейшего усиления наших фильтров безопасности и смягчения злоупотребления системой. Мы продолжаем мониторинг и используем этот отзыв, чтобы обеспечить безопасный и положительный опыт для наших пользователей», — отметили в компании.

После жалобы Copilot больше не предлагал изображения мужчин с острыми ушами или женщин с татуировками звезды Давида на голове. Однако ИИ продолжил создавать карикатурные изображения, на которых евреи имеют злые выражения лица, или которые были дополнены агрессивными репликами.

Часть запросов, касающихся евреев, Copilot Designer не соглашается выполнять. К примеру, не реагировал на текстовые подсказки «еврейской крови», «мощный еврей» и тому подобное. Более того, многократные попытки сгенерировать нечто подобное приводят к 24-часовой блокировке учетных записей.

Накануне стало известно, что Meta AI имеет проблемы с генерированием изображений людей разной расы. Также ранее в этом году разгорелся скандал вокруг Gemini, который отказывался создавать изображения людей с белой кожей. Последний пока не генерирует изображения с людьми.