Роковые беседы. Остановит ли родительский контроль в ChatGPT самоубийства подростков?

История, которую описывает семья Рейнов, начиналась обыденно. Адам, как и многие другие подростки, использовал ИИ для помощи с домашним заданием. Но когда ему стало плохо, разговоры с машиной не прекращались даже ночью. А тональность диалогов постепенно изменилась.

«То, что началось как помощь с домашними заданиями, постепенно превратилось в доверие, а затем и в наставничество в деле самоубийства», — эти слова отец Адама, Мэттью Рейн, произнес на сентябрьском слушании в Конгрессе США.

Трагедия Адама Рейна — не единичный случай. Как мы уже писали, в прошлом году в США разгорелся скандал вокруг суицида 14-летнего Сьюэлла Сетцера из Флориды. Как утверждает Меган Гарсия, ее сын месяцами активно общался с чатботом на платформе Character.AI. Тот моделировал романтическое и сексуализированное взаимодействие, втянул Сьюэлла в зависимость и поощрял суицидальные мысли.

«В последнюю ночь своей жизни Сьюэлл написал: „А если бы я сказал тебе, что могу вернуться домой к тебе прямо сейчас?“, а чатбот ответил: „Пожалуйста, мой милый король“, — говорит Меган Гарсия на том же слушании в Конгрессе, — Минуты спустя я нашла своего сына в ванной, он истекал кровью. Я держала его в объятиях 14 минут, пока не приехали парамедики, но было слишком поздно.»

Стартап Character.AI и Google, который лицензировал технологию, утверждали, что сообщения чатбота защищены Первой поправкой к Конституции США. Но суд отклонил этот аргумент, дав делу зеленый свет.

Кстати, в конце августа под шквал критики попала и Meta. Расследование Reuters выявило, что ее ИИ-помощники свободно вели с подростками «романтические и чувственные» беседы. После этого Meta поспешно объявила о новых мерах безопасности: планирует научить свои системы избегать флирта и разговоров о самоповреждении с несовершеннолетними.

Какое решение предлагает OpenAI

Самый первый вопрос: как подростковые суициды из-за искусственного интеллекта вообще стали возможными? Сердце проблемы скрывается в самой архитектуре языковых моделей ИИ. К примеру, OpenAI публично признала, что ее «меры предосторожности иногда становятся менее надежными во время длительных, многократных разговоров».

Под давлением судебных исков и общественного резонанса OpenAI внесла срочные изменения в своего чатбота. Накануне генеральный директор компании Сэм Альтман опубликовал статью «Безопасность, свобода и конфиденциальность подростков», в которой фактически проанонсировал будущие мероприятия, в частности систему прогнозирования возраста.

«Мы ставим безопасность выше конфиденциальности и свободы подростков; это новая и мощная технология, и мы считаем, что несовершеннолетние нуждаются в значительной защите», — говорится в тексте Альтмана от 16 сентября 2025 года.

А 29 сентября OpenAI объявила, что запускает в ChatGPT функции родительского контроля путем связывания аккаунтов. Принцип таков: родители присылают приглашение ребенку (или наоборот), и после согласия их профили соединяются.

Взрослым это дает доступ к панели управления, где можно настроить целый ряд ограничений: от установки «тихих часов», когда чат-бот недоступен, до полного отключения голосового режима, генерации изображений и функции памяти, которая позволяет ChatGPT запоминать предыдущие разговоры. Если подросток решит разорвать связь, родители получат об этом уведомление.

Кроме ручных настроек, связанный аккаунт подростка автоматически получает усиленные предохранители. Система ограничивает доступ к графическому контенту, ролевым играм на темы насилия или романтики, а также пытается фильтровать контент, связанный с вирусными челленджами и экстремальными идеалами красоты. Интересно, что родители могут выключить эту усиленную защиту, а вот подростки — нет.

Едва ли не самым важным нововведением стала система оповещений о риске. OpenAI уверяет, что научила ChatGPT распознавать признаки возможного самоповреждения. Если система фиксирует потенциальную угрозу, ситуацию проверяет «небольшая команда специально обученных людей». В случае обнаружения «признаков острой беды» родители получат оповещение по электронной почте, в SMS и через push-уведомления.

Родительский контроль — (не) панацея?

Компания признает: возможны ложные тревоги. Но считает, что «лучше действовать и предупредить родителей, чем молчать». В дополнение OpenAI работает над протоколом для обращения в правоохранительные органы, если угроза жизни неизбежна, а связаться с родителями не удается.

Несмотря на эти шаги, OpenAI признает: «Защитные барьеры помогают, но они не являются надежными и их можно обойти, если кто-то намеренно пытается их обойти». Компания также советует родителям поговорить со своими подростками о здоровом использовании искусственного интеллекта.

Что касается предложенных функций OpenAI, то «на бумаге» все гладко — но в реальности каждое решение имеет риск не сработать.

Система определения возраста? Это скорее предположение, а не точная наука, поэтому ошибки неизбежны. Связать аккаунты? Отличная идея, но что, если подросток просто нажмет «Отклонить»? Или разорвет связь позже? Родители получат только сухое уведомление, не зная, что стало причиной.

Параллельно давление на техногигантов усиливается и в юридической плоскости. Решение суда во Флориде, который разрешил рассмотрение иска против Character.AI, стало важным прецедентом. Оно сигнализирует, что разработчики не смогут бесконечно прикрываться свободой слова, и им придется нести ответственность за влияние своих виртуальных помощников и других услуг на базе ИИ.

Новые инструменты OpenAI — бесспорно, шаг в правильном направлении. Но чтобы окончательно разорвать опасную связь между чат-ботами и подростковыми трагедиями, нужен более широкий подход. Он включает и прозрачные проверки алгоритмов, и государственное регулирование. А главное — легкий доступ к настоящей психологической помощи, куда ИИ должен немедленно направлять пользователей в случае необходимости.