Искусственный интеллект может спасти вас от фейковых новостей. Вот какие инструменты помогут этому

Бороться с ложью в новостях или их ложной трактовкой — задача не из простых, ведь демократические ценности отстаивают позицию свободы слова. Провести между ними четкую разницу, то есть объяснить, как отличить сознательную ложь от банального непонимания и желания разобраться, никто не может.

Это усложняется доступом к информации и самой сутью соцсетей. Сейчас фактически каждый, у кого есть смартфон и доступ к интернету, может как создавать контент, так и потреблять его. Из-за этого генерируемую даже за один день информацию невозможно проверять вручную. Компании разрабатывают собственные нейросети и нанимают тысячи людей, которые должны проверять контент, но этого недостаточно.

И, скорее всего, наши возможности проверять информацию уже никогда не догонят возможности миллиардов людей ее создавать, обогащать, добавлять новые смыслы и искажать ее.

Многие люди боятся, что языковые системы искусственного интеллекта типа ChatGPT сделают ситуацию еще хуже. Уже сейчас текст, написанный ИИ, очень трудно отличить от текста, над которым работал человек. С развитием языковых сетей эта проблема станет еще более критической. Поэтому все больше стран задумываются над регулированием разработки инструментов ИИ, ведь ситуация уже очевидно выходит из-под контроля — например, против OpenAI готовят судебные иски из-за фейков, сгенерированных чат-ботом компании, прямо влияющих на репутацию людей.

В январе 2023 года исследователи NewsGuard, проверяющие факты компании поместили в ChatGPT 100 промптов, связанных с распространенными ложными нарративами о политике в сфере здравоохранения в США. В 80% своих ответов чат-бот давал ложные и обманчивые заявления. Это происходит из-за того, что дезинформации стало очень много, а компании-разработчики типа OpenAI не могут (не хотят) отыскивать фейки в базах данных, на которых они обучают свои системы ИИ.

Поэтому мы сталкиваемся с ситуацией, когда системы искусственного интеллекта будут генерировать фейковую информацию, в результате чего она будет распространяться еще активнее.

Однако, если с задачей по ее отслеживанию не можем справиться мы, возможно, нужно пойти по пути Энакина Скайуокера и применить известный мем о «ты должен бороться со злом, а не приобщаться к нему», только наоборот? То есть использовать ИИ не только чтобы генерировать фейки, но и чтобы обнаруживать их?

На самом деле, такие инструменты уже существуют. Например, анонимные разработчики запустили AI Fact Checker — это искусственный интеллект, проверяющий введенную вами информацию.

Это работает так: вы пишете какой-то факт, после чего платформа проходится по надежным (как утверждают разработчики) открытым источникам в интернете, анализирует собранные данные и сравнивает полученные данные с вашим утверждением, после чего определяет, верно, ошибочно или непонятно.

Наша проверка показала, что инструмент хорошо справляется с историческими вопросами, а также хорошо работает с последними новостями (например, подтверждает тезис, что Запад должен больше помогать Украине в войне с Россией). Что интересно, все его тезисы можно проверить, поскольку инструмент оставляет рабочие ссылки, откуда он брал информацию (слышишь, ChatGPT, ссылки можно не просто рандомно генерировать, а оставлять реальные!).

Однако нам все же удалось «взломать» AI Fact Checker. Иногда инструмент «разбивает» факт на несколько «подфактов» , чем можно пользоваться, чтобы ввести его в заблуждение.

Так, например, наш факт о том, что Петр Порошенко — президент Украины, AI Fact Checker разбил это утверждение на два: «Порошенко — президент» и «Украина имеет президента по фамилии Порошенко» и пришел к общему выводу, что Петр Порошенко и сейчас является президентом Украины.

Интересно, что когда мы снова попытались воспроизвести этот результат, AI Fact Checker уже упомянул, что нынешним президентом Украины является Владимир Зеленский.

Кроме того, на вопрос о Крыме он также отвечает в зависимости от языка, на который вы задаете вопрос. Если напишете на русском — он подтвердит, что Крым является якобы частью России.

Напишите то же на украинском — AI Fact Checker скажет, что это ложь (и предварительно переведет ваш запрос на английский, чего он не делает с русским).

Очевидно, это далеко не идеальный инструмент, который еще предстоит дорабатывать. Тем более, что он, как и ChatGPT лучше «понимает» английский язык, ведь обучен именно на нем.

Проблема в том, что обычно фактчекеры, разрабатывающие эти инструменты, — это небольшие организации, которые должны противостоять огромным пропагандистским машинам, поддерживаемым целыми правительствами. Именно поэтому в инструменты проверки могут проникать такие галлюцинации — то есть информация, похожая на правдивую и даже опирающуюся на какие-то материалы, однако не имеющей настоящей фактологической основы.

Это мы и видим на примере AI Fact Checker и вопроса о Крыме — проверяя информацию, введенную на русском языке, инструмент индексирует именно русскоязычные источники, большинство из которых утверждает, что Крым — это российская территория.

То есть, ИИ, как и люди, уязвим к манипуляциям и лжи. И, в отличие от людей, он не понимает, что именно он читает и пишет. Может показаться, что ИИ может формулировать аргументы и делать выводы, однако на самом деле он не размышляет — он только обрабатывает полученную информацию и верифицирует ее через различные источники, в большинстве случаев соответствующие языку введения утверждения. И это налагает определенные ограничения на возможность использования ИИ для проверки фактов.

Майкл Шлихткрулл, научный сотрудник автоматизированной проверки фактов в Кембриджском университете, в комментариях для издания Wired объясняет, что нам еще очень далеко до настоящей автоматизированной системы проверки фактов.

Рубен Мигез, который вместе с другими членами команды Newtral работает над многоязычной языковой моделью искусственного интеллекта ClaimHunter, объясняет, что системам ИИ все еще трудно ориентироваться в повседневных событиях. ИИ хорошо может «пройтись» по Википедии или перечитать сотни выпусков Forbes, однако ничего не знать о том, что произошло на прошлой неделе. В то же время, по словам Мигеза, за несколько лет их работы, он убедился, что эта технология действительно может работать — однако нужно время для ее калибровки.

«Когда мы начали работать над этой проблемой [ возможность проверки фактов с помощью ИИ — прим. НВ], вопрос состоял в том, сможем ли мы автоматизировать проверку фактов. Теперь вопрос для нас в том, когда мы сможем полностью автоматизировать это. Сейчас это наш приоритет, поскольку фейковые технологии развиваются быстрее, чем технологии выявления дезинформации», — говорит он.

На самом деле, каждый может косвенно приобщиться к улучшению этих инструментов.

Лучшее, что мы можем сделать со своей стороны, — оставлять фидбек для разработчиков с адекватной и аргументированной просьбой, например, вручную отключить определенные российские источники для индексации и проверки новостей или исторических событий.

Однако это также поднимает многие логические вопросы, которые мы не можем решить до сих пор — кто должен выбирать, какие источники нужно игнорировать, а каким можно доверять? Не налагает ли такое решение на разработчиков дополнительную ответственность за фильтрацию контента? Готовы ли вы доверять чат-боту или гипотетическому инструменту по проверке фактов, который создаст Илон Маск?

Само решение этих вопросов на глобальном уровне должно быть фундаментально важным шагом, который позволит нам качественнее бороться с фейками.