Тільки для білих? Український студент виявив упередженість алгоритмів Twitter і отримав за це $ 3500

14 серпня 2021, 12:51

Уродженець України Богдан Кулинич, аспірант в швейцарському університеті EPFL, довів упередженість алгоритмів Twitter для редагування фото.

З’ясувалося, що алгоритм обрізки зображень Twitter надає перевагу молодшим, стрункішим обличчям зі світлішою шкірою.

Цей висновок, хоча і негативно впливає на компанію, яка раніше приносила вибачення користувачам після повідомлень про упередженість, знаменує собою успішне завершення першої в історії «нагороди за алгоритмічні помилки» в Twitter.

Відео дня

Компанія заплатила $ 3500. Богдану Кулиничу, аспіранту швейцарського університету EFPL. Він продемонстрував упередженість в алгоритмі, який використовується для фокусування превью зображень на найбільш цікавих частинах зображень, в рамках конкурсу на DEF CON security в Лас-Вегасі.

Кулинич довів упередженість, спочатку штучно згенерувавши обличчя з різними характеристиками, а потім пропустивши їх за допомогою алгоритму обрізки Twitter, щоб побачити, на чому орієнтоване програмне забезпечення.

Оскільки обличчя були самі по собі штучними, можна було створювати обличчя, які були майже ідентичними, але в різних точках спектру тону шкіри, ширини, гендеру або віку — і таким чином продемонстрували, що алгоритм фокусувався на більш молодих, струнких і світлих обличчях.

«Коли ми думаємо про упередженість в наших моделях, йдеться не тільки про академічні або експериментальні … але і про те, як це також працює з нашим мисленням в суспільстві», — сказав на конференції Румман Чоудхурі, керівник групи з етики штучного інтелекту Twitter.

Twitter піддався критиці в 2020 році через свій алгоритм обрізки зображень після того, як користувачі помітили, що він, схоже, регулярно фокусується на білих обличчях — і навіть на білих собаках в порівнянні з чорними.

Компанія спочатку вибачилася, сказавши: «Наша команда провела тест на упередженість перед відправкою моделі і не знайшла доказів расової або гендерної упередженості в нашому тестуванні. Але з цих прикладів ясно, що нам потрібно провести більше аналізу». Однак в більш пізньому дослідженні власні дослідники Twitter виявили дуже помірну упередженість на користь білих і жіночих облич.

Суперечка спонукала компанію оголосити нагороду за використання алгоритмічного захисту від шкідливих помилок, яка обіцяла тисячі доларів у вигляді призів дослідникам, які зможуть продемонструвати шкідливі результати роботи алгоритму обрізки зображень компанії.

Кулинич, лауреат премії, сказав, що у нього змішані почуття з приводу конкурсу.

«Алгоритмічний збиток — це не тільки помилки. Важливо відзначити, що багато шкідливих технологій шкідливі не через нещасні випадки або ненавмисні помилки, а через свою конструкцію. Це відбувається за рахунок максимізації залученості і, в цілому, отримання прибутку за рахунок перенесення витрат на інших», — зазначив молодий вчений.

Раніше НВ писав, що засновник Twitter Джек Дорсі написав, що біткоін об'єднає країну (ймовірно, США) і весь світ. Дорсі заявив це після розгляду поправки про криптовалюти в Сенаті США.

Твіт був опублікований незадовго після того, як в Сенаті США заблокували поправку, яка повинна була посилити вплив уряду в регулюванні криптовалют.

Незважаючи на те, що Дорсі не уточнив, про яку країну йдеться, і як саме біткоін врятує світ, раніше він багато говорив про цю поправку і публічно визнавав величезний інтерес до криптовалют.

При цьому в жовтні 2020 го керівництво стартапу Square, який також належить Джеку Дорсі, придбало 4709 біткоіни, а в лютому 2021-го — ще 3318 біткоіни.

Приєднуйтесь до нас у соцмережах Facebook, Telegram та Instagram.

Показати ще новини
Радіо НВ
X