Злочин у два кліки. В Google Play проскочили застосунки для створення дипфейк-порно

Ще кілька років тому дослідники звертали увагу на те, що у магазинах застосунків Google Play і Apple App Store є програми, що дозволяють користувачам легко замінювати обличчя людей на відео. Тоді творці таких програм не згадували про можливість створювали порнографічний контент на своїх сторінках у магазині додатків чи сайтах. Утім саме такий варіант просувався у спільнотах, присвячених дипфейк-порнографії.

Деякі з цих програм залишалися активними до цього часу, пише 404Media. Журналісти виявили одну з таких програм, яка ще минулого тижня була доступна в Google Play і була активною в Apple App Store в першій половині березня. Наразі застосунок видалений.

«Дію програми було призупинено через порушення політики просування додатків Google Play. Ми не дозволяємо додатки, які прямо чи опосередковано використовують методи просування (наприклад, рекламу), які є оманливими чи шкідливими для користувачів або екосистеми розробників, або отримують від них вигоду», — зазначив речник Google.

За час перебування в Google Play шкідливий застосунок, що може бути використаний для створення порнографії, згенерованої штучним інтелектом без згоди особи, на чиє обличчя було замінено обличчя порноактора чи порноакторки у відео, був завантажений понад 10 тисяч разів та отримав понад 200 відгуків. Журналісти зауважують, що вони були переважно негативними, оскільки сама програма була безплатною, але за створення відео зі зміною обличчя доводилося платити.

Крім пересічних людей, від створення порнографічних відео та відвертих фото за допомогою ШІ можуть постраждати й зірки світового масштабу і політики. Приміром, нещодавно розгорівся скандал із поширенням дипфейк-порно нібито за участі співачки Тейлор Свіфт. Вважається, що інструмент Designer від Microsoft використовувався для поширення такого контенту.