Pornhub нашел способ бороться с теми, кто ищет детское порно. Помог простой чат-бот

В рамках пробной программы Pornhub принял дополнительные меры для борьбы с распространением материалов, связанных с сексуальным насилием над детьми (CSAM). В частности, на сайте были внедрены предупреждающие сообщения во всплывающих окнах, которые мешают продолжить пользование сайтом. Также был запущен чат-бот reThink, разработанный и созданный Internet Watch Foundation (IWF), некоммерческой организацией, которая удаляет CSAM из Интернета, и Lucy Faithfull Foundation, благотворительной организацией, которая работает над выявлением сексуального насилия над детьми. reThink также включался на сайте после того, как пользователь искал CSAM, и задавал ему серию вопросов, предоставляя возможность выбрать один из предложенных готовых ответов. Таким образом чат-бот доносил информацию о том, что материал, который люди искали, может быть незаконным, и направлял их в службы помощи Lucy Faithfull Foundation.

Как пишет WIRED со ссылкой на отчет исследователей, за время тестирования предупреждения о незаконности CSAM пользователи получали 4,4 миллиона раз. В 2,8 миллиона случаев после этого также запускался чат-бот. В целом чат-боту было отправлено 1656 запросов на получение дополнительной информации о CSAM, 490 человек перешли на веб-сайт благотворительной организации Stop It Now. Около 68 человек позвонили или пообщались с конфиденциальной линией доверия Lucy Faithfull Foundation.

Исследователи говорят, что после получения уведомлений около 1,7 миллиона человек покинули Pornhub или осуществили поиск других материалов на порносайте. Подавляющее большинство людей, которые получили предупреждение и пообщались с чат-ботом, искали CSAM только один раз.

«Они не исчезли просто так. Обычно они оставались на сайте и искали другие вещи. Влияние на миллионы людей, которые действительно выполнили сомнительный поиск, а затем прекратили этот сомнительный поиск, является большой победой», — говорит Дональд Финдлейтер, директор линии доверия Stop It Now.

Конечно, такие предупреждения останавливали не всех. Около 400 пользователей несмотря на оповещения продолжали искать детское порно, и доходило до 10 поисковых запросов подряд, что снова провоцировало появление оповещений. Тем не менее исследователи и представители Pornhub считают технологию эффективной. Хотя период тестирования завершен, Pornhub не отказался от ее использования, и призывает другие платформы задуматься над ее внедрением.

«Этот отчет и технология являются значительными шагами вперед в обнаружении, удалении и уведомлении о вредоносном и незаконном контенте. Мы считаем, что все другие основные технологические и социальные медиаплатформы должны изучить внедрение подобной технологии сдерживания, чтобы создать более безопасный Интернет для всех», — прокомментировал представитель Pornhub.

NV Техно писал, что в 2020 году New York Times опубликовала масштабный материал, в котором раскрыла проблему распространения материалов о жестоком обращении с детьми и другого проблемного контента на Pornhub. После этого платформа удалила около 10 миллионов видео.