Ответ на бум дипфейков. Google закрыла лазейку, позволявшую продвигать сгенерированное ИИ порно

Программы, которые предоставляют пользователям возможность создавать порнографический контент с помощью искусственного интеллекта без согласия людей, чьи фото используются, часто для продвижения выбирают объявления, в которых прямо не упоминается их назначение и не используются откровенные изображения. Это долгое время позволяло создателям таких приложений для создания дипфейк-порнографии продвигать свои услуги в Сети (например, на платформах Meta).

Обновление рекламной политики Google должно запретить любые объявления «синтетического содержания сексуального характера», даже если само объявление не является откровенным, пишет 404Media. В электронном письме, направленном всем менеджерам рекламы Google, компания сообщила, что новая политика вступит в силу в мае 2024 года. После этого рекламировать создание или распространение контента, который был синтетически изменен или сгенерирован, чтобы быть откровенно сексуальным или содержать обнаженное тело, будет запрещено.

В Google добавили, что обновляют свою политику для платформ Ads, Publisher и Shopping Ads, чтобы четко запретить рекламу служб, которые предлагают создавать дипфейк-порнографию или синтетический контент с изображением обнаженного тела. За нарушение этого правила рекламодателю или издателю грозит остановка действия аккаунта.

«Мы давно запрещаем на наших рекламных платформах как откровенно сексуальное содержание, так и контент сексуального характера, созданный без согласия, и эта политика, как правило, предотвращает продвижение поддельных порнографических услуг. Чтобы обеспечить комплексный подход, мы обновляем нашу рекламную политику, чтобы четко указать, что мы не разрешаем рекламу этих услуг — независимо от того, контент откровенного сексуального характера или нет», — говорит представитель компании.

Компания также признала, что ее правила не всегда являются совершенными. Сейчас для проверки объявлений используется автоматизированная система и проверка живыми людьми. В прошлом году, согласно отчету компании, благодаря этому было удалено более 1,8 миллиарда объявлений за нарушение политики в отношении сексуального контента.

NV Техно писал, что ранее приложения для создания дипфейк-порно продирались в Google Play и App Store. Жертвами использования таких инструментов становятся как рядовые граждане, так и звезды мирового масштаба. Несколько недель назад в сети разгорелся скандал с распространением дипфейк-порно якобы с участием певицы Тейлор Свифт. Считается, что инструмент Designer от Microsoft использовался для распространения такого контента. Создатели материалов с участием звезды координировали свои действия в соцсетях.