Порноместь и дипфейки. Еще один техногигант присоединился к важной инициативе, которую игнорирует Google

Корпорация Microsoft объявила о сотрудничестве с организацией StopNCII, которая помогает удалять интимные изображения, распространенные без согласия человека, в том числе созданные с помощью искусственного интеллекта дипфейки. В рамках сотрудничества Microsoft будет удалять такие изображения из своего поискового сервиса Bing.

«Мы слышали беспокойство жертв, экспертов и других заинтересованных сторон о том, что сообщения пользователей сами по себе могут быть недостаточно эффективными для воздействия или должным образом устранить риск того, что изображения можно получить через поиск. В связи с этим сегодня мы объявляем, что сотрудничаем со StopNCII для тестирования ориентированного на жертв подхода к обнаружению в Bing, нашей поисковой системе», — объявила Microsoft.

Несколько других технологических компаний согласились сотрудничать со StopNCII для удаления интимных изображений, распространенных без разрешения. Meta помогла создать инструмент и использует его на своих платформах Facebook, Instagram и Threads. Среди других сервисов, которые присоединились к проекту — TikTok, Bumble, Reddit, Snap, Niantic, OnlyFans, PornHub, Playhouse и Redgifs. Интересно, что в этом списке нет Google. Компания имеет собственный набор инструментов для уведомления о не соответствующих нормам изображениях, включая сгенерированные искусственным интеллектом дипфейки, но отказ от участия в совместной инициативе затрудняет для жертв координацию усилий по удалению изображений.

Процесс удаления выглядит следующим образом: жертва должна обратиться к StopNCII, организация делает цифровой отпечаток (хэш) проблемного изображения или видео без необходимости загружать файл, хэш отправляется партнерам-участникам, которые могут искать совпадения с оригиналом и удалять их со своей платформы, если они нарушают их политику в отношении контента.