Самый крупный скандал в истории Facebook — что мы узнали о работе компании в рамках расследования Facebook Papers

Facebook Papers — о чем они?

• Facebook плохо модерирует контент — 87% ресурсов компании направлено на модерацию постов в США; остальной мир получает лишь 13%. При этом, американские пользователи составляют лишь 10% от всех пользователей соцсети. Мустафа Айяд, исполнительный директор Института стратегического диалога по Африке, Ближнему Востоку и Азии, говорит, что «по всему Facebook идут войны». Модераторы этих регионов не справляются — там полно фейков, дезинформации, ботов, разжигания ненависти и насилия.
• Во время слушаний в Конгрессе США Марк Цукерберг лгал: он уверял, что соцсеть удаляет 94% контента, пропагандирующего ненависть. Внутренние документы свидетельствуют об обратной картине — лишь 5% подобного контента удаляется модераторами, все остальное пропускается из-за послаблений или нехватки модераторов.
• WSJ пишет, что некоторые сотрудники призывали жестче контролировать ультраправые издания вроде Breitbart, которые активно критиковали движения вроде Black Lives Matter. Правые издания — одни из самых популярных в соцсети, а потому руководство не решилось на решительные действия, так как боялась резкой реакции и критики со стороны сторонников подобных взглядов. Компания позволяла подобным сообществам обходить правила фактчекинга, а также публиковать оскорбительный и фейковый контент, несмотря на формальный публичный запрет.
• Ложная информация распространяется «за секунды» благодаря лайкам и репостам, пишет NYT. В Facebook проводили эксперимент, убрав кнопки «Нравится» и «Поделиться», однако поняли, что это ведет к тому, что пользователи меньше публикуют и делятся контентом. В компании объяснили завершение эксперимента тем, что отказ от лайков не решает проблему.
• Всего за три недели новый пользователь полностью погружается в конспирологический контент. Сотрудники NYT создали аккаунт воображаемой «консервативной мамы Кэрол», которому соцсеть вскоре начала предлагать подписаться на сообщества QAnon — рассадника конспирологии в США.
  

• Также журналисты NYT создали аккаунт для пользователя из Индии — через три недели вся его лента была заполнена фотографиями трупов и призывами к насилию. По словам сотрудника, он «видел больше изображений мёртвых людей за последние три недели, чем за всю свою жизнь». Это происходит из-за слабой модерации соцсети.
• Facebook годами используют для торговли людьми. В компании об этом знают, однако до сих пор не прекратили этого. CNN даже удалось найти сразу несколько аккаунтов в Instagram, которые предлагали купить домашнюю прислугу. Во внутренних отчетах компании пишут, что женщины, которых продали ради рабского труда, подвергаются насилию, их лишают еды и оплаты, а паспорта забирают, чтобы они не могли сбежать.
• В 2019 Apple угрожала, что удалит приложения Facebook и Instagram из AppStore — тогда сотрудники сумели быстро удалить «опасный» контент, однако проблема никуда не делась. Журналисты CNN также попадали на фотографии и даже видео с оружием и мертвыми людьми — после обращения в компанию посты были удалены.
• Правила не едины для всех. В Facebook существует система XCheck, освобождающая высокопоставленных политиков и некоторых инфлюенсеров от некоторых или даже всех правил. Если кто-нибудь из таких пользователей сделает пост, нарушающий определенные правила, для него будет сделано «исключение» — аккаунт не получит никакого предупреждения, а пост останется нетронутым.
• Instagram токсичен для подростков, особенно для девочек. У многих развивается депрессия, тревожность и расстройство пищеварения; около 13% юных британок и 6% американок сообщали о том, что у них возникали суицидальные мысли из-за соцсети. В Facebook об этом знают и даже проводили собственные исследования, которые подтвердили эту статистику, однако специально приуменьшают негативное влияние приложения. Более того, представители компании специально скрывали результаты исследований, чтобы про них не узнала общественность.
  

• Facebook специально разделяет своих сотрудников, пишет Politico. Многие из них придерживаются кардинально разных взглядов на то, как должна работать компания. Более того, мнение рядовых сотрудников часто не учитывается при принятии решений любого характера — от взаимодействия с комментариями до постов, призывающих к насилию. Очень часто решения о том, нарушает ли запись определенные правила, принимаются кем-то из руководителей, иногда даже самим Цукербергом: «Если наши решения должны следовать определённым принципам и правилам, то зачем вообще нужна консультация руководителей?», — спрашивает один из сотрудников.
• Соцсеть не хочет терять пользователей, и ради этого руководство готово на все. Например, в 2020 году Цукерберг договорился с Коммунистической партией Вьетнама об усилении цензуры относительно местной оппозиции в Facebook.
• Еще больше проблем у Facebook с привлечением молодой аудитории. За последние два с половиной года ее отток составляет 13%, а поток сообщений упал на 16% — и ситуация будет становиться только хуже. Подростки жалуются, что в соцсети Цукерберга скучно и слишком много ненависти.
• В попытках изменить негативный фон руководители Facebook в 2018 году изменили алгоритм соцсети. Цукерберг не был поклонником этой идеи — и, как оказалось, не зря, ведь это привело к еще большим проблемам. Непостоянство соцсети злило пользователей, что выливалось в бесконечный поток негатива в ленте.
• Facebook стал рассадником ковид-диссидентов и антивакцинаторов, несмотря на то, что Цукерберг был уверен, что соцсеть наоборот делает все, чтобы продвигать вакцинацию от COVID-19. Активисты, разобравшиеся в том, как работают алгоритмы выдачи постов, наводнили соцсеть контентом, который сотрудники Facebook называют «барьером для вакцинации».

Что говорят в Facebook?

В CNN называют Facebook Papers крупнейшим скандалом в истории компании. Однако журналисты уточняют — они не хотят разрушать Facebook, а лишь хотят сделать его лучше.

Представители компании продолжают давить на то, что все обвинения — ложные или вырваны из контекста. Также там отрицают обвинение Хоген в том, что компании важнее прибыль, а не безопасность пользователей.

Марк Цукерберг назвал скандал Facebook Papers «скоординированными усилиями по выборочному использованию просочившихся документов» для создания ложной картины компании. В то же время он отмечает, что крупные организации должны тщательно проверяться, а «добросовестная критика» помогает Facebook быть лучше.

Уже в ближайшее время компания планирует провести ребрендинг, поменяв свое название. Однако очевидно, что это никак не изменит фундаментальных проблем, лежащих в основе компании и которые проели уже огромную дыру в доверии многих пользователей и даже сотрудников к платформе. А ведь именно это является основой любой технологической компании; особенно этот ресурс важен для Facebook, который в будущем хочет развивать свою метавселенную — подробнее об этом вы можете почитать здесь.

Все расследования в рамках проекта Facebook Papers вы можете найти здесь.