Фатальні розмови. Чи зупинить батьківський контроль у ChatGPT самогубства підлітків?

Історія, яку описує родина Рейнів, починалася буденно. Адам, як і чимало інших підлітків, використовував ШІ для допомоги з домашнім завданням. Та коли йому стало зле, розмови з машиною не припинялися навіть уночі. А тональність діалогів поступово змінилася.

«Те, що почалося як допомога з домашніми завданнями, поступово перетворилося на довіру, а потім і на наставництво у справі самогубства», — ці слова батько Адама, Меттью Рейн, виголосив на вересневому слуханні у Конгресі США.

Трагедія Адама Рейна — не поодинокий випадок. Як ми вже писали, торік у США розгорівся скандал навколо суїциду 14-річного Сьюелла Сетцера з Флориди. Як стверджує Меган Гарсія, її син місяцями активно спілкувався з чатботом на платформі Character.AI. Той моделював романтичну та сексуалізовану взаємодію, втягнув Сьюелла у залежність і заохочував суїцидальні думки.

«В останню ніч свого життя Сьюелл написав: „А якби я сказав тобі, що можу повернутися додому до тебе прямо зараз?“, а чатбот відповів: „Будь ласка, мій милий королю“. — каже Меган Гарсія на тому-таки слуханні в Конгресі. — Хвилини по тому я знайшла свого сина у ванній, він стікав кров’ю. Я тримала його в обіймах 14 хвилин, поки не приїхали парамедики, але було запізно.»

Стартап Character.AI та Google, який ліцензував технологію, стверджували, що повідомлення чатбота захищені Першою поправкою до Конституції США. Та суд відхилив цей аргумент, давши справі зелене світло.

До речі, наприкінці серпня під шквал критики потрапила й Meta. Розслідування Reuters виявило, що її ШІ-помічники вільно вели з підлітками «романтичні та чуттєві» бесіди. Після цього Meta поспіхом оголосила про нові заходи безпеки: планує навчити свої системи уникати флірту та розмов про самошкоду з неповнолітніми.

Яке рішення пропонує OpenAI

Найперше питання: як підліткові суїциди через штучний інтелект взагалі стали можливими? Серце проблеми ховається в самій архітектурі мовних моделей ШІ. Приміром, OpenAI публічно визнала, що її «запобіжні заходи іноді стають менш надійними під час тривалих, багатоповторних розмов».

Під тиском судових позовів та суспільного резонансу OpenAI внесла термінові зміни у свого чатбота. Напередодні генеральний директор компанії Сем Альтман опублікував статтю «Безпека, свобода та конфіденційність підлітків», у якій фактично проанонсував майбутні заходи, зокрема систему прогнозування віку.

«Ми ставимо безпеку вище за конфіденційність та свободу підлітків; це нова та потужна технологія, і ми вважаємо, що неповнолітні потребують значного захисту», — ідеться в тексті Альтмана від 16 вересня 2025 року.

А 29 вересня OpenAI оголосила, що запускає в ChatGPT функції батьківського контролю шляхом зв’язування акаунтів. Принцип такий: батьки надсилають запрошення дитині (або навпаки), і після згоди їхні профілі з'єднуються.

Дорослим це дає доступ до панелі керування, де можна налаштувати цілий ряд обмежень: від встановлення «тихих годин», коли чат-бот недоступний, до повного відключення голосового режиму, генерації зображень та функції пам’яті, яка дозволяє ChatGPT запам’ятовувати попередні розмови. Якщо підліток вирішить розірвати зв’язок, батьки отримають про це сповіщення.

Окрім ручних налаштувань, зв’язаний акаунт підлітка автоматично отримує посилені запобіжники. Система обмежує доступ до графічного контенту, рольових ігор на теми насильства чи романтики, а також намагається фільтрувати контент, пов’язаний із вірусними челенджами та екстремальними ідеалами краси. Цікаво, що батьки можуть вимкнути цей посилений захист, а от підлітки — ні.

Чи не найважливішим нововведенням стала система сповіщень про ризик. OpenAI запевняє, що навчила ChatGPT розпізнавати ознаки можливої самошкоди. Якщо система фіксує потенційну загрозу, ситуацію перевіряє «невелика команда спеціально навчених людей». У разі виявлення «ознак гострої біди» батьки отримають сповіщення електронною поштою, у SMS та через push-сповіщення.

Батьківський контроль — (не) панацея?

Компанія визнає: можливі хибні тривоги. Але вважає, що «краще діяти й попередити батьків, аніж мовчати». На додачу OpenAI працює над протоколом для звернення до правоохоронних органів, якщо загроза життю є неминучою, а зв’язатися з батьками не вдається.

Попри ці кроки, OpenAI визнає: «Захисні бар'єри допомагають, але вони не є надійними та їх можна обійти, якщо хтось навмисно намагається їх обійти». Компанія також радить батькам поговорити зі своїми підлітками про здорове використання штучного інтелекту.

Щодо запропонованих функцій OpenAI, то «на папері» все гладко — але в реальності кожне рішення має ризик не спрацювати.

Система визначення віку? Це радше припущення, а не точна наука, тож помилки неминучі. Зв’язати акаунти? Чудова ідея, та що, як підліток просто натисне «Відхилити»? Або розірве зв’язок пізніше? Батьки отримають лише сухе сповіщення, не знаючи, що стало причиною.

Паралельно тиск на техногігантів посилюється і в юридичній площині. Рішення суду у Флориді, який дозволив розгляд позову проти Character.AI, стало важливим прецедентом. Воно сигналізує, що розробники не зможуть нескінченно прикриватися свободою слова, і їм доведеться нести відповідальність за вплив своїх віртуальних помічників та інших послуг на базі ШІ.

Нові інструменти OpenAI — безперечно, крок у правильному напрямку. Та щоб остаточно розірвати небезпечний зв’язок між чат-ботами і підлітковими трагедіями, потрібен ширший підхід. Він включає і прозорі перевірки алгоритмів, і державне регулювання. А головне — легкий доступ до справжньої психологічної допомоги, куди ШІ повинен негайно скеровувати користувачів у разі потреби.