Як врятуватися від фейкових відео з вашим обличчям? Вчені розробили новий алгоритм
Діпфейк — технологія, яка дозволяє підмінити обличчя людини на фото або відео. Команда програмістів з США розробила алгоритм, який запобігає створенню діпфейков.
Причиною перших скандалів навколо технології діпфейк стало використання обличчя знаменитостей у відео для дорослих. Зараз подібні діпфейк-сервіси дозволяють зробити голою будь-яку людину. Причому, краще вони працюють саме з зображеннями жінок.
Крім крадіжки особистості, діпфейк становить величезну небезпеку і для поширення неправдивої інформації. Навіть зараз на діпфейк-відео складно відрізнити підробку від оригіналу, а у майбутньому ця технологія дозволить маніпулювати промовою і емоціями будь-якої людини.
Щоб запобігти зловмисному використанню технології діпфейк, вчені з Бостонського університету розробили новий алгоритм, який дозволяє захистити будь-яке фото або відео від маніпуляцій з обличчям людини, що там зображенм.
По суті це звичайна цифрова маска, яка змінює медіафайл таким чином, що створення з нього діпфейка стає неможливим.
Новий алгоритм захищає від різних інструментів створення діпфейк, і при спробі маніпуляції пікселі з цим фільтром або залишаться без змін, або будуть повністю спотворені.
Автори розробки опублікували вихідний код свого алгоритму і заявили, що їхня технологія повинна допомогти запобігти несприятливому використанню діпфейк.
Оскільки алгоритм є у відкритому доступі - розробники діпфейк можуть дізнатися, як працює цей фільтр і навчитися обходити його. Наступним кроком вчених повинна стати розробка закритого ПЗ для боротьби з діпфейком.
«Ми зробили те, що називається атакою "білого ящика", коли її параметри відомі порушнику. Дуже важливим наступним кроком є розробка методів атак "чорного ящика", які можуть порушити роботу діпфейк-мереж способами, недоступними для порушника... зараз ми працюємо над тим, щоб зробити це реальністю», - заявила автор дослідження, професор комп'ютерних наук Сара Адель Баргал.
Нагадаємо, на початку 2020-го представники Facebook заявили, що на платформі будуть видаляти відео, змінені за допомогою штучного інтелекту. Зокрема, це стосується технології діпфейк.
У Facebook попередили, що не будуть видаляти відео з гумористичним і пародійним контентом, а перевірку всіх підозрілих роликів зможуть здійснити незалежні фактчекери.
«Хоча ці відео все ще рідкісні у інтернеті, вони представляють серйозну проблему для нашої галузі і суспільства, оскільки їх використання збільшується», - зазначила віце-президент Facebook з управління глобальною політикою Моніка Бікерт.
