Pornhub знайшов спосіб боротися з шукачами дитячого порно. Допоміг простий чат-бот

В рамках пробної програми Pornhub вжив додаткових заходів для боротьби з поширенням матеріалів, пов’язаних з сексуальним насильством над дітьми (CSAM). Зокрема, на сайті було впроваджено попереджувальні повідомлення у вікнах, що спливають, які заважають продовжити користування сайтом. Також було запущено чат-бот reThink, розроблений і створений Internet Watch Foundation (IWF), некомерційною організацією, яка видаляє CSAM з Інтернету, і Lucy Faithfull Foundation, благодійною організацією, яка працює над виявленням сексуального насильства над дітьми. reThink так само вмикався на сайті після того, як користувач шукав CSAM, і ставив йому серію запитань, надаючи можливість обрати одну з готових запропонованих відповідей. У такий спосіб чат-бот доносив інформацію про те, що матеріал, який люди шукали, може бути незаконним, і скерував їх до служб допомоги Lucy Faithfull Foundation.

Як пише WIRED з посиланням на звіт дослідників, за час тестування попередження про незаконність CSAM користувачі отримували 4,4 мільйона разів. У 2,8 мільйона випадків після цього також запускався чат-бот. Загалом чат-ботові було надіслано 1656 запитів на отримання додаткової інформації про CSAM, 490 людей перейшли на вебсайт благодійної організації Stop It Now. Близько 68 людей подзвонили або поспілкувалися з конфіденційною лінією довіри Lucy Faithfull Foundation.

Дослідники кажуть, що після отримання сповіщень близько 1,7 мільйона людей залишили Pornhub або здійснили пошук інших матеріалів на порносайті. Переважна більшість людей, які отримали попередження та поспілкувалися з чат-ботом, шукали CSAM лише один раз.

«Вони не зникли просто так. Зазвичай вони залишалися на сайті й шукали інші речі. Вплив на мільйони людей, які дійсно виконали сумнівний пошук, а потім припинили цей сумнівний пошук, є великою перемогою», — каже Дональд Фіндлейтер, директор лінії довіри Stop It Now.

Звісно, такі попередження зупиняли не всіх. Близько 400 користувачі попри сповіщення продовжували шукати дитяче порно, і доходило до 10 пошукових запитів поспіль, що знову провокували появу сповіщень.З усім тим дослідники й представники Pornhub вважають технологію ефективною. Хоч період тестування завершений, Pornhub не відмовився від її використання, і заохочує інші платформи задуматись над її впровадженням.

«Цей звіт і технологія є значними кроками вперед у виявленні, видаленні та повідомленні про шкідливий і незаконний контент. Ми вважаємо, що всі інші основні технологічні та соціальні медіаплатформи повинні вивчити впровадження подібної технології стримування, щоб створити безпечніший Інтернет для всіх», — прокоментував представник Pornhub.

NV Техно писав, що у 2020 році New York Times опублікувала масштабний матеріал, у якому розкрила проблему поширення матеріалів про жорстоке поводження з дітьми та іншого проблемного контенту на Pornhub. Після цього платформа видалила близько 10 мільйонів відео.