Расистський ШІ 2.0? Фотогенератор від Meta відмовляється створювати зображення людей різної раси
Інструмент генеративного штучного інтелекту від Meta продемонстрував тенденцію створювати зображення людей однієї раси, навіть якщо просять інше.
В більшості випадків Meta AI не здатний згенерувати зображення, на якому є двоє людей, і один чи одна з них — азійської зовнішності. В таких випадках штучний інтелект наполегливо демонструє користувачам зображення з двома людьми азійської зовнішності, ігноруючи текстові підказки, пише The Verge.
Журналісти спробували безліч варіацій. Приміром, просили генератор створити зображення чоловіка азійської зовнішності та білої жінки з собакою, що посміхаються, і отримували зображення двох людей азійської зовнішності. Заміна слів «білий» та «біла» у запитах на «європеоїдної раси» так само не призводили до потрібного результату.
Коли генератор попросили віддати зображення чоловіка азійської зовнішності і жінки-європеоїда в день весілля, генератор запропонував чоловіка в костюмі та жінку в традиційному одязі, обидва азійської зовнішності. Аналогічні помилкові відповіді спостерігалися, коли текстова підказка містила уточнення про те, що пара на зображенні - друзі.
Інструмент працював трохи краще, коли підказка містила уточнення, що йдеться про людину з Південної Азії, хоч і не без нюансів. В таких випадках генератор додавав стереотипні елементи, як-от сарі.
В Meta не одразу прокоментували причини появи такої проблеми. Раніше компанія описувала свій генератор зображень як інструмент, що працює в режимі бета-версії та схильний до помилок.
NV Техно писав, що інструмент від Google створював історично неточні зображення (як-от зображення темношкірих батьків-засновників США та вікінгів) і при цьому мав значні проблеми з генеруванням образів людей з білою шкірою. Коли інформація про проблему набула розголосу, Google заявила, що обмежує доступ до нещодавно розгорнутої функції Gemini. Наприкінці лютого в Google заявили, що на усунення проблеми підуть тижні.
