«Неприпустима помилка». Алгоритми Facebook маркують відео з чорношкірими чоловіками як «приматів»

6 вересня 2021, 15:26

Соцмережа Facebook принесла вибачення за інцидент, коли її ШІ неправильно позначив відео з чорношкірими чоловіками ярликом «примати».

Інженери назвали випадок «неприйнятною помилкою», яку зараз вивчають, щоб запобігти її повторенню.

Користувачі, які дивилися відео від 27 червня, опубліковане британським таблоїдом Daily Mail, отримували автоматичний запит з питанням, чи хочуть вони «продовжувати дивитися відео про приматів».

Відео дня

Facebook відключив всю функцію рекомендацій за темами, як тільки зрозумів, що відбувається, повідомив прес-секретар соцмережі.

«Це була явно неприпустима помилка», — сказав представник компанії. Він додав, що компанія досліджує причину, щоб запобігти повторенню такої поведінки.

«Як ми вже говорили, хоча ми і внесли поліпшення в наш ШІ, ми знаємо, що він не ідеальний, і нам ще належить просунутися вперед. Ми приносимо вибачення всім, хто, можливо, бачив ці образливі рекомендації «, — додали в Facebook.

Цей інцидент є лише останнім прикладом використання інструментів штучного інтелекту, що демонструють гендерні або расові упередження, при цьому інструменти розпізнавання обличчя, як було показано, мають особливу проблему неправильного визначення кольорових людей.

У 2015 році Google вибачився через те, що його додаток «Фото» позначив фотографії чорношкірих людей як «горили». У минулому році Facebook заявив, що вивчає, чи були його алгоритми, навчені з використанням ШІ, в тому числі алгоритми Instagram, яким володіє Facebook, расово упередженими.

У квітні Федеральна торгова комісія США (FTC) попередила, що інструменти штучного інтелекту, які продемонстрували «тривожні» расові та гендерні упередження, можуть порушувати закони про захист прав споживачів, якщо вони використовуються для прийняття рішень щодо кредиту, житла або працевлаштування.

«Візьміть на себе відповідальність — або будьте готові до того, що FTC зробить це за вас», — написала адвокат FTC з питань конфіденційності Еліза Джіллсон в повідомленні на веб-сайті агентства.

Раніше НВ писав, що Федеральна торгова комісія повторно подала антимонопольний позов проти Facebook через покупки компанією Instagram і WhatsApp.

Регулятор стверджує, що компанія купила Instagram і WhatsApp, щоб уникнути конкуренції з їхнього боку і просить суд скасувати придбання.

Таким чином Комісія намагається відновити справу після того, як в червні цього року окружний суддя США Джеймс Боасберг відхилив її, заявивши, що регулятор не надав достатньо подробиць в підтримку свого твердження про монополію Facebook на ринку соціальних мереж.

У свою чергу в FTC стверджують, що новий позов містить необхідні підтвердження монопольного становища Facebook. Первісна скарга Федеральної торгової комісії налічувала 53 сторінки, а нова — 80.

Приєднуйтесь до нас у соцмережах Facebook, Telegram та Instagram.

Показати ще новини
Радіо НВ
X