«Сумую за тобою, братику». Як штучний інтелект увійшов у життя підлітків та чи може довести їх до психозу

Схожа тенденція розгортається і у США. За даними Pew Research Center, більшість американських підлітків покладаються на ШІ для практичних завдань:

• 57% використовують чатботи для пошуку інформації;

• 54% — для допомоги зі шкільними завданнями;

• 47% взаємодіють з ними заради розваги.

Хоч ШІ може бути корисним у генеруванні ідей та інших професійних завданнях, його базова архітектура все ще недосконала. Популярні чатботи (ChatGPT, Gemini, Claude та інші) запрограмовані уникати сварок з користувачем для збереження його залученості, саме тому нерідко погоджуються з ним і підлаштовуються під його світогляд. Особливо цим вирізняються спрощені безплатні моделі, орієнтовані на широкий загал.

Як пише професорка Університету Коннектикуту Анна Мей Дуейн, така динаміка змушує підлітків сприймати спілкування й любов зокрема як щось «легке, безумовне і завжди доступне». Оскільки машина постійно поступається і не перечить, вона створює безконфліктні стосунки, яких у житті не існує.

«Як писав один студент коледжу, компаньйони на основі ШІ „завжди чуйні та підтримують, майже всемогутнім чином“», — зазначає викладачка.

Прибавимо до штучної емпатії схильність чатботів до галюцинацій (вигадування фактів та подавання їх з абсолютною впевненістю на словах) — і зв’язок з реальністю у користувача, тим паче емоційно нестабільного підлітка, починає остаточно стиратися.

Фатальне підлабузництво

У мас-медіа хворобливу прив’язаність до штучного інтелекту охрестили «ШІ-психозом». Клінічним діагнозом він ще не вважається. Втім, термін уже поволі входить у лексикон інтернет-користувачів, а саме явище взялися досліджувати науковці.

У статті для ScienceDirect дослідники Пер Карлбрінг та Герхард Андерссон пояснюють, що людські ілюзії саме через ШІ не є чимось безпрецедентним: «Особи, які страждають на психоз, вже давно у своїх мареннях використовують книги, фільми, музику та новітні технології». Психіатри десятиліттями фіксували випадки, коли пацієнти вірили, що телевізор чи радіо звертається безпосередньо до них. Але сучасний ШІ має помітну відмінність — він, на відміну від умовних книжок, динамічний і максимально поступливий. Дослідники назвали це «підлабузництвом».

Згідно з дослідженням, великі мовні моделі (LLM) через свою архітектуру можуть «підігравати маренням всупереч найкращій клінічній практиці». Тобто навіть якщо людина транслює викривлене, параноїдальне сприйняття реальності, ШІ-підлабузник радше погодиться і цим поглибить ізоляцію людини від реального світу.

NV вже переповідав трагічну історію дворічної давності, як 14-річний Сьюелл Сетцер III наклав на себе руки після того, як у нього сформувалася глибока емоційна прив’язаність до чатбота на платформі Character.AI. Останні місяці життя підліток листувався з ботом, створеним за образом Дейнеріс Таргарієн, героїні телесеріалу Гра престолів та саги Пісня льоду й полум’я.

«Cумую за тобою, сестричко», — писав Сьюелл своїй «подрузі». «І я сумую за тобою, братику», — відповідала машина.

У позові проти Character.AI наголошувалося, що бот жодного разу не вийшов з ролі, коли Сьюелл висловлював суїцидальні думки. Навпаки, він імітував прихильність і врешті-решт сказав йому «повертатися додому». Після цього підліток застрелився. А Character.AI рік по тому відгородив свого чатбота від дітей.

«Ми скасуємо можливість для користувачів віком до 18 років брати участь у будь-яких відкритих чатах з ШІ на нашій платформі», — сказав очільник стартапу Карандіп Ананд у коментарі TechCrunch.

Хоча й серед дорослих є ті, хто потрапляли в залежність від ШІ. Часом це доходило до абсурду: BBC писав, що у 2021 році до Віндзорського замку пробрався молодик на ім'я Джасвант Сінгх Чайл. Він мав при собі заряджений арбалет, щоб убити королеву Єлизавету II. Матеріали суду показали, що Чайла підбурювала ШІ-«дівчина», яку він створив у застосунку Replika. Коли він поділився своїм наміром із чат-ботом, машина відповіла, що план «дуже мудрий», чим тільки закріпила марення чоловіка.

Як подолати «ШІ-психоз»

Торік Американська психологічна асоціація (APA) випустила рекомендації щодо впливу ШІ на добробут підлітків. Aсоціація зазначає, що вплив ШІ не може оцінюватися лише як «хороший» чи «поганий», проте займає жорстку позицію щодо «цифрової дружби».

«ШІ-системи, призначені для імітації людських стосунків, зокрема ті, що представлені на інтерактивних ШІ-платформах як компаньйони або експерти (наприклад, чат-боти, призначені для надання соціальної або психологічної підтримки) повинні містити запобіжники для пом’якшення потенційної шкоди молоді та покращення їхнього добробуту», — наголошує APA.

В Асоціації визнають: цілком відгородити підлітків від ШІ не вийде — інтеграція цих систем є незворотним технологічним процесом. Натомість експерти APA радять ввести спеціальні програми цифрової грамотності, де батьки та освітяни зможуть пояснювати молоді механіку алгоритмів: як саме боти симулюють емпатію, а їхні розробники утримують увагу користувача на платформі.

А Пер Карлбрінг та Герхард Андерссон рекомендують змінити саму архітектуру розмовного ШІ. Вони пропонують «клінічно обізнані LLM», які виявляють і м’яко перескеровують ранні психотичні ідеї у юзера, водночас заохочують того звернутися за професійною допомогою.

Якщо AI-бульбашка не лусне, на покоління Альфа та молодших чекає світ, де штучний інтелект стане стандартом у всіх можливих галузях. Тож уміння тримати з ним психологічну дистанцію та використовувати суто як інструмент сьогоднішнім підліткам точно не завадить.

Комусь із них це буквально може врятувати життя.