Преступление в два клика. В Google Play проскочили приложения для создания дипфейк-порно

Еще несколько лет назад исследователи обращали внимание на то, что в магазинах приложений Google Play и Apple App Store есть программы, позволяющие пользователям легко заменять лица людей на видео. Тогда создатели таких программ не упоминали о возможности создавать порнографический контент на своих страницах в магазине приложений или сайтах. Оданко именно такой вариант продвигался в сообществах, посвященных дипфейк-порнографии.

Некоторые из этих программ оставались активными до сих пор, пишет 404Media. Журналисты обнаружили одну из таких программ, которая еще на прошлой неделе была доступна в Google Play и была активной в Apple App Store в первой половине марта. Сейчас приложение удалено.

«Действие программы было приостановлено из-за нарушения политики продвижения приложений Google Play. Мы не позволяем приложения, которые прямо или косвенно используют методы продвижения (например, рекламу), которые являются обманчивыми или вредными для пользователей или экосистемы разработчиков, или получают от них выгоду», — отметил представитель Google.

За время пребывания в Google Play вредоносное приложение, которое может быть использовано для создания порнографии, сгенерированной искусственным интеллектом без согласия человека, на чье лицо было заменено лицо порноактера или порноактрисы в видео, было загружено более 10 тысяч раз и получило более 200 отзывов. Журналисты отмечают, что они были преимущественно негативными, поскольку сама программа была бесплатной, но за создание видео с изменением лица приходилось платить.

Кроме простых людей, от создания порнографических видео и откровенных фото с помощью ИИ могут пострадать и звезды мирового масштаба и политики. К примеру, недавно разгорелся скандал с распространением дипфейк-порно якобы с участием певицы Тейлор Свифт. Считается, что инструмент Designer от Microsoft использовался для распространения такого контента.