YouTube рекомендовал детям видео об изготовлении оружия. Прокуроры интересуются, почему

В 2023 году организация Tech Transparency Project провела эксперимент, во время которого было создано 4 тестовых аккаунта YouTube, имитировавших девятилетних и четырнадцатилетних мальчиков. С этих страниц исследователи воспроизводили различные видео, посвященные компьютерным играм. После этого платформа начала предлагать этим пользователям ролики, посвященные созданию «ghost gun» — огнестрельного оружия, собранного из напечатанных на 3D-принтерах частей или компонентов, приобретенных в виде комплектов. Такое оружие не имеет серийных номеров и непригодно для отслеживания. Интересно, что эти рекомендации не зависели от того, взаимодействовали ли пользователи с каким-либо контентом с изображением настоящего оружия.

В недавнем письме окружной прокурор Манхэттена Элвин Брэгг ссылался на это исследование и требовал встречи с гендиректором YouTube Нилом Моханом для обсуждения того, почему платформа позволяет публиковать такие видео и почему алгоритм показывает это несовершеннолетним зрителям, которые смотрят контент о видеоиграх. Брегг также обратил внимание YouTube на то, что родители не могут контролировать рекомендации с помощью функций родительского контроля. По его словам, многие молодые люди, в отношении которых открыто производство из-за владения оружием в Нью-Йорке, сказали, что научились делать его именно по роликам в YouTube.

Представитель YouTube сообщил New York Daily News, что платформа тщательно пересмотрит видео, которыми прокуратура Манхэттена поделится с компанией. Платформа также убеждает, что продолжает удалять любой контент, который нарушает политику. Впрочем, хотя сайт действительно удаляет эти видео, прокуратура считает, что YouTube должен быть более проактивным в борьбе с таким контентом.