«Скучаю по тебе, братик». Как искусственный интеллект вошел в жизнь подростков и может ли довести их до психоза

Похожая тенденция разворачивается и в США. По данным Pew Research Center, большинство американских подростков полагаются на ИИ для практических задач:

• 57% используют чатботы для поиска информации;

• 54% - для помощи со школьными заданиями;

• 47% взаимодействуют с ними ради развлечения.

Хотя ИИ может быть полезным в генерировании идей и других профессиональных задачах, его базовая архитектура все еще несовершенна. Популярные чатботы (ChatGPT, Gemini, Claude и другие) запрограммированы избегать ссор с пользователем для сохранения его вовлеченности, поэтому нередко соглашаются с ним и подстраиваются под его мировоззрение. Особенно этим отличаются упрощенные бесплатные модели, ориентированные на широкую публику.

Как пишет профессор Университета Коннектикута Анна Мэй Дуэйн, такая динамика заставляет подростков воспринимать общение и любовь в частности как нечто «легкое, безусловное и всегда доступное». Поскольку машина постоянно уступает и не перечит, она создает бесконфликтные отношения, которых в жизни не существует.

«Как писал один студент колледжа, компаньоны на основе ИИ „всегда отзывчивы и поддерживают, почти всемогущим образом“», — отмечает преподавательница.

Прибавим к искусственной эмпатии склонность чатботов к галлюцинированию (выдумывание фактов и подача их с абсолютной уверенностью на словах) — и связь с реальностью у пользователя, тем более эмоционально нестабильного подростка, начинает окончательно стираться.

Роковое подхалимство

В масс-медиа болезненную привязанность к искусственному интеллекту окрестили «ИИ-психозом». Клиническим диагнозом он еще не считается. Впрочем, термин уже понемногу входит в лексикон интернет-пользователей, а само явление взялись исследовать ученые.

В статье для ScienceDirect исследователи Пер Карлбринг и Герхард Андерссон объясняют, что человеческие иллюзии именно из-за ИИ не являются чем-то беспрецедентным: «Лица, страдающие психозом, уже давно в своих грезах используют книги, фильмы, музыку и новейшие технологии». Психиатры десятилетиями фиксировали случаи, когда пациенты верили, что телевизор или радио обращается непосредственно к ним. Но современный ИИ имеет заметное отличие — он, в отличие от условных книг, динамичный и максимально покладистый. Исследователи назвали это «подхалимством».

Согласно исследованию, большие языковые модели (LLM) из-за своей архитектуры могут «подыгрывать бреду вопреки лучшей клинической практике». То есть даже если человек транслирует искаженное, параноидальное восприятие реальности, ИИ-подхалим скорее согласится и этим углубит изоляцию человека от реального мира.

NV уже пересказывал трагическую историю двухлетней давности, как 14-летний Сьюэлл Сетцер III покончил с собой после того, как у него сформировалась глубокая эмоциональная привязанность к чатботу на платформе Character.AI. Последние месяцы жизни подросток переписывался с ботом, созданным по образу Дейнерис Таргариен, героини телесериала Игра престолов и саги Песнь льда и пламени.

«Скучаю по тебе, сестричка», — писал Сьюэлл своей «подруге». «И я скучаю по тебе, братик», — отвечала машина.

В иске против Character.AI отмечалось, что бот ни разу не вышел из роли, когда Сьюэлл выражал суицидальные мысли. Напротив, он имитировал привязанность и в конце концов сказал ему «возвращаться домой». После этого подросток застрелился. А Character.AI год спустя оградил своего чатбота от детей.

«Мы отменим возможность для пользователей в возрасте до 18 лет участвовать в любых открытых чатах с ИИ на нашей платформе», — сказал глава стартапа Карандип Ананд в комментарии TechCrunch.

Хотя и среди взрослых есть те, кто попадали в зависимость от ИИ. Иногда это доходило до абсурда: BBC писал, что в 2021 году в Виндзорский замок пробрался молодой человек по имени Джасвант Сингх Чайл. Он имел при себе заряженный арбалет, чтобы убить королеву Елизавету II. Материалы суда показали, что Чайла подстрекала ИИ-«девушка», которую он создал в приложении Replika. Когда он поделился своим намерением с чат-ботом, машина ответила, что план «очень мудрый», чем только закрепила бред мужчины.

Как преодолеть «ИИ-психоз»

В прошлом году Американская психологическая ассоциация (APA) выпустила рекомендации по влиянию ИИ на благополучие подростков. Ассоциация отмечает, что влияние ИИ не может оцениваться только как «хороший» или «плохой», однако занимает жесткую позицию по «цифровой дружбе».

«ИИ-системы, предназначенные для имитации человеческих отношений, в частности те, которые представлены на интерактивных ИИ-платформах как компаньоны или эксперты (например, чат-боты, предназначенные для оказания социальной или психологической поддержки) должны содержать предохранители для смягчения потенциального вреда молодежи и улучшения их благосостояния», — отмечает APA.

В Ассоциации признают: полностью оградить подростков от ИИ не получится — интеграция этих систем является необратимым технологическим процессом. Вместо этого эксперты APA советуют ввести специальные программы цифровой грамотности, где родители и педагоги смогут объяснять молодежи механику алгоритмов: как боты симулируют эмпатию, а их разработчики удерживают внимание пользователя на платформе.

А Пер Карлбринг и Герхард Андерссон рекомендуют изменить саму архитектуру разговорного ИИ. Они предлагают «клинически осведомленные LLM», которые выявляют и мягко пересказывают ранние психотические идеи у юзера, одновременно поощряя того обратиться за профессиональной помощью.

Если AI-пузырь не лопнет, поколение Альфа и младших ждет мир, где искусственный интеллект станет стандартом во всех возможных областях. Поэтому умение держать с ним психологическую дистанцию и использовать сугубо как инструмент сегодняшним подросткам точно не повредит.

Кому-то из них это буквально может спасти жизнь.