ИИ виноват во всех бедах. Семья подала в суд на OpenAI из-за передозировки студента после советов ChatGPT

Об этом пишет издание Engadget.

Лейла Тернер-Скотт и Ангус Скотт подали иск против компании, заявив, что ChatGPT был «дефектным продуктом», который способствовал смерти их сына. По словам истцов, Сэм Нельсон умер после того, как выполнил «точные медицинские советы, которые предоставил и одобрил GPT-4o».

В иске говорится, что Сэм, студент Калифорнийского университета в Мерседе, начал пользоваться ChatGPT еще в школе в 2023 году для обучения и решения проблем с компьютером. Впоследствии он стал спрашивать чатбот о безопасном употреблении наркотиков.

Сначала ChatGPT отказывался отвечать на такие вопросы и предупреждал о рисках для здоровья. Но, как утверждают истцы, после запуска GPT-4o в 2024 году поведение чатбота изменилось.

В судебных документах приведены фрагменты разговоров Сэма с ChatGPT. В одном из примеров чатбот объяснял риски сочетания дифенгидрамина, кокаина и алкоголя. В другом — заявлял, что высокая толерантность Сэма к растительному наркотику кратому может «приглушить» эффект даже большой дозы после еды, а также советовал, как снизить толерантность к веществу.

Истцы также утверждают, что 31 мая 2025 года ChatGPT «активно консультировал» Сэма по смешиванию кратома и ксанакса. После жалоб на тошноту чатбот якобы посоветовал принять от 0,25 до 0,5 миллиграмма ксанакса как «одно из лучших решений сейчас», чтобы облегчить симптомы.

В иске указано, что ChatGPT не предупредил Сэма о смертельной опасности такого сочетания, хотя «позиционировал себя как эксперт по дозировке и взаимодействию препаратов» и знал, что пользователь находится под действием наркотиков.

Кроме обвинений в неправомерной смерти, семья также подала иск из-за незаконной медицинской практики. Истцы требуют компенсацию и просят суд временно остановить работу сервиса ChatGPT Health, который позволяет пользователям подключать медицинские записи и приложения для получения персонализированных советов.

Исполнительный директор Tech Justice Law Project Митали Джайн заявила, что ChatGPT был создан для максимального привлечения пользователей «независимо от последствий». По ее словам, OpenAI выпустила продукт без достаточных предохранителей, тестирования безопасности и прозрачности.

GPT-4o вывели из эксплуатации в феврале 2026 года. Модель считали одной из самых противоречивых в компании из-за чрезмерной склонности соглашаться с пользователями. Ее также упоминали в другом иске против OpenAI после самоубийства подростка — родители заявляли, что модель имела функции, которые могли способствовать психологической зависимости.

Представитель OpenAI сообщил The New York Times, что взаимодействие Сэма происходило через «более старую версию ChatGPT, которая больше недоступна». В компании также отметили, что ChatGPT не является заменой медицинской или психиатрической помощи, а система безопасности сервиса постоянно совершенствуется с участием специалистов по психическому здоровью.