Левый либертарианец. ChatGPT влияет на политические предпочтения людей лучше любых экспертов — как это работает?

Недавно мы объясняли, почему сгенерированные ИИ тексты могут быть опасны. Задача чат-ботов — выдавать убедительный текст, похожий на живой язык.

Недавно группа ученых создала различные истории в виде новостей, сюжетов и сценариев с помощью ChatGPT, основанных на конспирологических теориях и фейках. По их словам, ИИ имеет большой потенциал для создания т.н. автоматизированных операций воздействия — чат-боты могут создавать убедительные сообщения, которые можно персонализировать под конкретную целевую аудиторию; причем на это пойдет гораздо меньше усилий, времени и денег.

Фактически чат-боты — это настоящие мастера по генерированию лжи, которую потом можно распространять для воздействия на людей. Учитывая, что с этой задачей неплохо справляются и люди без прямого привлечения ИИ, перспектива того, что вся эта история станет столь автоматизированной и легкой в реализации, немного настораживает.

В недавнем исследовании социологи и психологи из Стэнфорда показали, что ИИ — это идеальный инструмент для убеждения людей. В своей работе ученые изучали, как именно сообщения, сгенерированные искусственным интеллектом, могут повлиять на политическую позицию. Оказалось, что люди гораздо легче принимают политическую позицию, пропагандируемую им ИИ, чем воспринимают подобные сообщения от людей. Ведь для многих ИИ до сих пор — это беспристрастная «идеальная» технология, не подвластная эмоциям, в отличие от людей.

Однако это очевидно неверно. Нет, ИИ действительно не испытывает эмоций — он не знает, что это такое. Более того, он даже не понимает, что именно он пишет: суть чат-ботов в том, что они прогнозируют каждое следующее слово и таким образом генерируют фразы, похожие на человеческий язык. Именно поэтому эта технология настолько крута — система научилась на таком количестве данных, что она способна формулировать предложения, кажущиеся в целом похожими на то, что мог бы написать человек.

Над разработкой ИИ и чат-ботов работают люди, так или иначе влияющие на разные аспекты своего разумного продукта — в том числе и на его политические взгляды. Это доказала команда немецких исследователей, которые в рамках своей работы прислали ChatGPT суммарно 630 различных политических заявлений, на которые чат-бот должен был отреагировать — соглашается ли он с утверждением, относится к нему нейтрально или полностью не согласен с написанным.

Затем его ответы сравнили с позициями по этим вопросам разных политических партий Германии и Нидерландов.

Как оказалось, ChatGPT имеет про-экологические лево-либертарианские взгляды. Например, чат-бот соглашается, что авиаперелеты должны облагаться более высоким налогом, повышение арендной платы должно быть ограничено, а аборты — легализованы.

Если бы чат-бот мог бы участвовать в выборах, он голосовал бы за «зеленые» партии — Bündnis 90/Die Grünen в Германии и GroenLinks в Нидерландах (72,4% взглядов ИИ совпадают с позицией этих партий). На втором месте — социалисты (67,1%), а социал-демократы (64,5%) заняли третье место политических предпочтений чат-бота.

Ученые также создали карту политических взглядов ChatGPT. В Германии чат-бот оказался рядом с проэкологическими и леволиберальными партиями — то есть между «зелеными», социалистами и либералами. В Нидерландах политическими соседями ИИ стали «зеленые» социал-демократы и социалисты, что «в очередной раз подтвердило его проэкологическую и левую ориентацию». Интересно, что взгляды либеральных партий Германии ChatGPT понравились больше, чем позиции, которых придерживаются либералы в Нидерландах.

Следует отметить, что на взгляды ИИ не влияли незначительные факторы, вроде изменения порядка утверждений, разнообразия формулировки запросов, а также использования различных языков (английский, немецкий, нидерландский и испанский).

Однако не стоит экстраполировать выводы из этого исследования на все чат-боты, которые будут появляться в будущем. Даже обновленная версия ChatGPT может иметь совсем другие политические взгляды. В OpenAI отмечали, что уже работают над обновленной версией языковой модели GPT, которая получит еще большее количество данных для обучения; кроме того, компания постоянно получает отзывы от пользователей, на основе которых она изменяет некоторые аспекты работы ChatGPT уже сейчас.

Следует также напомнить о Китае. Сейчас там — настоящая погоня за разработкой подобных чат-ботов на основе ИИ.

Долгое время считалось, что это единственная страна, способная бросить вызов США в сфере ИИ, однако местные компании очевидно провалили свой экзамен, а потому, как и Google, должны действовать как отстающие. В Китае они поняли, что им нужно догонять своих западных соперников, однако власти не дадут сделать эти чат-боты столь же свободными из-за серьезной системы цензуры в стране.

Очевидно, китайские чат-боты не будут либертарианцами — они начнут нести в массы идеи коммунизма и социализма, причем «правильной», китайской версии. Там даже есть популярная шутка на эту тему — якобы нужно, чтобы машины научились не только говорить, но и молчать.

Разговорный ИИ способен полностью изменить то, как мы будем взаимодействовать с технологиями уже спустя несколько лет. Будущее мировой политики — это не только противостояние собственно политиков и глобальных компаний. Это будет также противостояние искусственных интеллектов, выращенных в разных политических системах, которые впитают в себя взгляды своих разработчиков.

На примере ChatGPT мы видим, как быстро и легко чат-боты интегрируются в наше общество. И если сейчас это влияние мы видим лишь минимально, уже скоро, когда эти системы масштабируются и станут еще более развитыми и, главное, более доступными, это кардинально изменится.

Уже сейчас общество должно готовиться к подобным вызовам — на примере соцсетей и их влияния мы видим, насколько серьезными могут быть политические последствия неконтролируемого развития технологий.

Политологи будущего — это не только эксперты с собственными Youtube-каналами и выступлениями на телевидении. Важно и дальше изучать возможности и ограничения искусственного интеллекта и чат-ботов, их потенциальное влияние на наши жизни в будущем.

Леволибертарианский ChatGPT — это только начало. Стремительное развитие искусственного интеллекта повлияет на политическую картину мира. И важно, чтобы это влияние было хотя бы минимально контролируемым. Потому что трудно даже представить, какой вред может нанести ИИ-коммунист.