«Недопустимая ошибка». Алгоритмы Facebook маркируют видео с чернокожими мужчинами как «приматов»

Инженеры назвали случай «неприемлемой ошибкой», которую сейчас изучают, чтобы предотвратить ее повторение.

Пользователи, которые смотрели видео от 27 июня, опубликованное британским таблоидом Daily Mail, получали автоматический запрос с вопросом, хотят ли они «продолжать смотреть видео о приматах».

Facebook отключил всю функцию рекомендаций по темам, как только понял, что происходит, сообщил пресс-секретарь соцсети.

«Это была явно недопустимая ошибка», — сказал представитель компании. Он добавил, что компания исследует причину, чтобы предотвратить повторение такого поведения.

«Как мы уже говорили, хотя мы и внесли улучшения в наш ИИ, мы знаем, что он не идеален, и нам еще предстоит продвинуться вперед. Мы приносим извинения всем, кто, возможно, видел эти оскорбительные рекомендации», — добавили в Facebook.

Этот инцидент является лишь последним примером использования инструментов искусственного интеллекта, демонстрирующих гендерные или расовые предубеждения, при этом инструменты распознавания лиц, как было показано, имеют особую проблему неправильного определения цветных людей.

В 2015 году Google извинился за то, что его приложение «Фото» пометило фотографии чернокожих людей как «гориллы». В прошлом году Facebook заявил, что изучает, были ли его алгоритмы, обученные с использованием ИИ, в том числе алгоритмы Instagram, которым владеет Facebook, расово предвзятыми.

В апреле Федеральная торговая комиссия США (FTC) предупредила, что инструменты искусственного интеллекта, которые продемонстрировали «тревожные» расовые и гендерные предубеждения, могут нарушать законы о защите прав потребителей, если они используются для принятия решений в отношении кредита, жилья или трудоустройства.

«Возьмите на себя ответственность — или будьте готовы к тому, что FTC сделает это за вас», — написала адвокат FTC по вопросам конфиденциальности Элиза Джиллсон в сообщении на веб-сайте агентства.

Ранее НВ писал, что Федеральная торговая комиссия повторно подала антимонопольный иск против Facebook из-за покупки компанией Instagram и WhatsApp.

Регулятор утверждает, что компания купила Instagram и WhatsApp, чтобы избежать конкуренции с их стороны и просит суд отменить приобретения.

Таким образом Комиссия пытается возобновить дело после того, как в июне этого года окружной судья США Джеймс Боасберг отклонил его, заявив, что регулятор не предоставил достаточно подробностей в поддержку своего утверждения о монополии Facebook на рынке социальных сетей.

В свою очередь в FTC утверждают, что новый иск содержит необходимые подтверждения монопольного положения Facebook. Первоначальная жалоба Федеральной торговой комиссии насчитывала 53 страницы, а новая — 80.