Несмотря на запрет. Apple и Google продвигают приложения для раздевания людей с помощью ИИ

Об этом говорится в отчете Tech Transparency Project. Как отмечают исследователи, через поиск по словам «nudify» или «undress» пользователи могут найти программы, которые создают обнаженные изображения реальных людей или вставляют их в видео сексуального характера.

В отчете сказано, что платформы фактически способствуют распространению инструментов, которые превращают фото людей в сексуализированные изображения. Кроме того, в результатах поиска показывали рекламу подобных приложений.

Исследователи обнаружили 18 таких приложений в App Store и 20 в Google Play. Часть из них прямо использовала сексуальные изображения для продвижения, другие не рекламировались так открыто, но все равно позволяли создавать дипфейки. В целом эти приложения принесли около 122 миллионов долларов дохода и были загружены 483 миллиона раз.

Руководитель проекта Кэти Пол заявила, что проблема не только в том, что компании не проверяют эти программы должным образом и продолжают их одобрять и зарабатывать на них. По ее словам, платформы сами направляют пользователей к таким приложениям.

Обе компании имеют правила, которые запрещают сексуальный или порнографический контент, а Google отдельно запрещает приложения для «раздевания». В Apple сообщили, что удалили 15 программ из списка исследователей, а в Google заявили, что приостановили часть из них.

Одно из приложений, Video Face Swap AI: DeepFace, рекламировалось из-за замены лица актрисы на тело другой и позволяло вставлять лицо реального человека на тела частично раздетых женщин. В то же время оно имело пометку «для всех».

Распространение таких программ заставляет правительства готовить ограничения. В Великобритании призвали запретить приложения, которые создают обнаженные или сексуальные изображения детей с помощью ИИ. В США и других странах уже предлагают или вводят законы против откровенных дипфейков.

В Google заявили, что не разрешают приложения с сексуальным контентом, проверяют нарушения и уже заблокировали много программ из отчета. В компании добавили, что проверки продолжаются.