Цифровой расизм. Почему Twitter скрывает фото темнокожих людей

22 сентября 2020, 20:00

Пользователи Twitter заметили, что нейросеть компании выбирает белых людей для превью изображения, где есть и темнокожие. Руководство соцсети пытается найти ошибки в работе системы.

Вопрос расовой дискриминации в сфере технологий зачастую имеет сугубо технический характер, хотя в некоторых случаях подобным ситуациям приписывают и политическую основу.

Видео дня

К примеру, некоторые системы помощи водителю в управлении авто могут не замечать темнокожих пешеходов, что объясняется особенностями работы датчиков и камер.

Но на днях в расизме обвинили одну из самых демократичных соцсетей — Twitter, руководство которой всегда отстаивало права своих пользователей.

Теперь эти же пользователи заметили, что нейросеть Twitter выбирает белых людей для создания превью неформатного изображения, оригинал которого, к примеру, был в вертикальной ориентации.

Иными словами, когда соцсеть создает превью изображения с белыми и темнокожими людьми — она автоматически отдает предпочтение показу именно белых людей.

Это подтвердили примеры сразу нескольких пользователей.

А началось все с того, что один из пользователей Twitter опубликовал в соцсети скриншот разговора в Zoom со своим коллегой, — сервис видеозвонков также скрыл лицо темнокожего пользователя, когда он включил искусственный фон.

После этого сообщество Twitter начало «народную» проверку соцсети и определило, что ее алгоритм часто не замечает темнокожих людей и выбирает белых для создания превью изображения с ними.

Примечательно, что это касалось даже картинок с нарисованными персонажами: при создании превью из вертикального изображения двух героев мультсериала «Симпсоны» нейросеть Twitter выбрала именно белого (точнее, желтого) персонажа.

Пару лет назад представители Twitter объясняли неправильную работу своего алгоритма тем, что система может не распознавать на изображениях лица людей и подбирать случайные превью.

После недавнего случая, который обнаружили пользователи соцсети, главный дизайнер компании Дэнтли Дэвис написал, что они «изучают ошибки в работе нейронной сети».

Что из этого получится и как Twitter объяснит свои действия на этот раз — узнаем уже в скором времени.

Возможно даже до грядущих выборов нового президента США.

Присоединяйтесь к нам в соцсетях Facebook, Telegram и Instagram.

Показать ещё новости
Радіо НВ
X