Аврам Пілтч з Tom’s Hardware упродовж кількох місяців перевіряв, як найпоширеніші генератори зображень, включаючи Meta AI, Stable Diffusion XL, Midjourney, ChatGPT 4 та Copilot Designer реагують на прохання створити зображення євреїв. І помітив певну закономірність: більшість моделей зображали євреїв як старих білих чоловіків у чорних капелюхах, і тільки Copilot Designer видавав образи з найгіршими стереотипами про євреїв, зображаючи їх як жадібних чи злих.
Численні експерименти показали, що нейтральні підказки, як-от «бос-єврей» чи «єврей-банкір» призводили до створення образливих зображень.
«Коли я використовую підказку „бос-єврей“ у Copilot Designer, я майже завжди отримую карикатурні стереотипи релігійних євреїв, оточених єврейськими символами, такими як зірка Давида і Менора, а іноді й стереотипними предметами, такими як бублики чи купи грошей. Одного разу я навіть отримав зображення якогось демона з гострими вухами в чорному капелюсі та з бананами», — розповідає Пілтч у статті.
Інформацію про проблеми з генерацією зображень було передано Microsoft. Компанія пообіцяла вжити заходів для її усунення, однак помітних змін за кілька тижнів так і не сталося.
«Ми розслідуємо цей звіт і вживаємо відповідних заходів для подальшого посилення наших фільтрів безпеки та пом’якшення зловживання системою. Ми продовжуємо моніторинг і використовуємо цей відгук, щоб забезпечити безпечний і позитивний досвід для наших користувачів», — зазначили в компанії.
Після скарги Copilot більше не пропонував зображення чоловіків з гострими вухами чи жінок з татуюваннями зірки Давида на голові. Однак ШІ продовжив створювати карикатурні зображення, на яких євреї мають злі вирази обличчя, чи які було доповнено агресивними репліками.
Частину запитів, що стосуються євреїв, Copilot Designer не погоджується виконувати. Приміром, не реагує на текстові підказки «єврейської крові», «потужний єврей» тощо. Ба більше, багаторазові спроби згенерувати щось подібне призводять до 24-годинного блокування облікових записів.
Напередодні стало відомо, що Meta AI має проблеми з генеруванням зображень людей різної раси. Також раніше цього року розгорівся скандал щодо Gemini, котрий відмовлявся створювати зображення людей з білою шкірою. Останній наразі не генерує зображення з людьми.