Потрібні зміни. Правила Meta щодо ШІ-діпфейків назвали недостатніми

Про це пише видання Engadget.

В одному з випадків йшлося про відео зі шотландським політиком. За допомогою штучного інтелекту його голос і зовнішність використали для створення реалістичного ролика з образливими висловлюваннями про біженців та білих людей. Сам політик назвав ситуацію травматичною.

Meta спочатку не видалила відео після скарги. Компанія пояснила, що ролик не був позначений організаціями з переліку її довірених партнерів і не виглядав таким, що впливає на голосування чи інші виборчі процеси. Позначки про використання ШІ також не було, оскільки автор не вказав, що відео створене штучним інтелектом.

Oversight Board дійшла висновку, що матеріал порушував правила Meta щодо мови ненависті та мав бути видалений. Рада також заявила, що відео необхідно було чітко позначити як створене за допомогою ШІ. Після рішення Meta погодилася видалити ролик.

Другий випадок стосувався відео з жінкою, яка розповідала в телевізійному інтерв'ю про просвітницьку роботу у сфері менструального здоров’я. Пізніше фрагменти інтерв'ю цифровим способом змінили, щоб висміяти жінку. Відредаговані ролики поширилися в соцмережах.

Скаргу на такий допис Meta автоматично закрила, як і подальшу апеляцію. Сам матеріал не мав позначки про використання ШІ. Коментарі з образами компанія видалила лише після того, як до справи долучилася Oversight Board. Meta заявила, що також видалить цей допис.

У раді зазначили, що обидві справи демонструють проблему використання діпфейків для переслідування людей. Окремо там звернули увагу на відсутність послідовного маркування матеріалів, створених штучним інтелектом.

Співголова Oversight Board Памела Сан Мартін заявила, що діпфейки дедалі частіше використовують для переслідування та замовчування жінок, які беруть участь у публічних дискусіях. За її словами, розглянуті випадки свідчать про ширшу проблему поширення переслідувань і дезінформації щодо жінок, які публічно висловлюються.

Oversight Board вже неодноразово критикувала підхід Meta до ШІ-контенту та пропонувала змінити правила його маркування. Наразі позначка компанії зазвичай має вигляд невеликого банера «AI Info».

Рада також рекомендувала Meta під час надходження скарг пріоритетно перевіряти матеріали, які можуть бути створені штучним інтелектом. Компанія має 60 днів, щоб відповісти на останні рекомендації Oversight Board.