«Первая поправка защищает». Обвиняемый в доведении подростка до самоубийства ИИ-стартап впервые ответил на претензии
Компания Character AI, поставляющая чат-боты с искусственным интеллектом, способных имитировать известных людей и персонажей, утверждает, что защищена от ответственности за самоубийство ее пользователя Первой поправкой к Конституции США.
Character AI пытается избавиться от поданного против нее иска. В ее ходатайстве о закрытии дела, поданном в суд, утверждается, что платформа защищена от ответственности Первой поправкой, пишет TechCrunch.
«Первая поправка запрещает деликтную ответственность (ответственность за вред, причиненный неправомерными решениями, действиями или бездействием — NV) для медиа и технологических компаний, за якобы вредные высказывания, включая высказывания, которые якобы приводят к самоубийству. Единственное отличие этого дела от предыдущих заключается в том, что часть высказываний здесь связана с искусственным интеллектом. Но контекст экспрессивной речи — будь то разговор с искусственным интеллектом или взаимодействие с персонажем видеоигры — не меняет анализа Первой поправки», — говорится в заявлении.
Адвокаты компании утверждают, что истинное намерение истцов заключается в том, чтобы закрыть Character AI и немедленно принять законодательство, регулирующее подобные технологии.
«Помимо заявленного адвокатами намерения „закрыть“ Character AI, [их жалоба] направлена на радикальные изменения, которые … ограничат возможности миллионов пользователей Character AI создавать и участвовать в разговорах с персонажами», — говорится в заявлении защитников.
Character AI и самоубийство подростка — почему с компанией судятся
В прошлом году в США совершил самоубийство 14-летний Сьюэлл Сетцер III. Парень был одержим чат-ботами с искусственным интеллектом, в частности, такими, которые имитируют общение с героями Игры престолов. Его родители убеждены, что именно это привело к тому, что произошло.
Меган Гарсиа, мать подростка, судится против сервиса с настраиваемыми чат-ботами Character.AI, его основателей Ноама Шазира и Даниэля Де Фрейтаса, а также компании Google, которая приобрела сервис. Она обвиняет ответчиков в халатности и обманчивой торговой практике.
После иска Character.AI объявила о нескольких изменениях в своей работе. Платформа обещает изменения в моделях для несовершеннолетних пользователей, направленные на уменьшение вероятности столкновения с деликатным или непристойным контентом, новые предостережения, которые должны напоминать пользователям, что искусственный интеллект не является реальным человеком, оповещения о длительных (более часа) сеансах общения с чат-ботом. Но Гарсия борется за дополнительные предохранители.
