Расистський ШІ? Gemini від Google виявився нездатним створювати зображення з білими людьми

Користувачі виявили, що Gemini іноді може відмовлятися виконувати запит, коли просять створити зображення білих людей. Водночас запити щодо зображень з темношкірими людьми ШІ виконував без проблем. Ба більше, генератор створював історично хибні фото, приміром, темношкірих вікінгів і батьків-засновників США, та мав низку інших проблем.

Google визнала наявність помилку в Gemini, але не розкрила причини її появи. Можливість створювати зображення в Gemini тимчасово обмежили.

«Ми вже працюємо над розв’язанням останніх проблем із функцією створення зображень Gemini. Поки ми це робимо, ми збираємося призупинити створення зображень людей і незабаром повторно випустимо покращену версію», — повідомляється на сторінці Google Communications в X.

Це не перший випадок, коли ШІ-модель має проблеми з генеруванням зображень людей з певним кольором шкіри. Нещодавнє розслідування The Washington Post показало, що генератор зображень зі штучним інтелектом Stable Diffusion майже завжди ідентифікував одержувачів талонів на безоплатне харчування як темношкірих людей, хоча більшість таких людей в США є білими. А NPR повідомляло, що Midjourney зазнавав критики через те, що під час багатьох тестів не зміг створити зображення, на якому темношкірий лікар лікує білих дітей. OpenAI, аби уникнути непорозумінь, попереджає клієнтів, що її генератор зображень Dall-E «успадковує різні упередження від своїх навчальних даних, а його результати іноді зміцнюють суспільні стереотипи».

ШІ від Google також не вперше опіняється в центрі скандалу через функцію генерування зображень. Google оголосила про впровадження можливості генерувати зображення у її чат-боті зі штучним інтелектом Bard, що зрештою було перейменовано на Gemini, раніше цього місяця. Це сталося після того, як розгорівся скандал з поширеннями порнофейків зі співачкою Тейлор Свіфт. Компанія не вжила достатньо заходів, аби запобігти створенню зображень зі співачкою та іншими відомими людьми: її захист легко обійшли.