Это ужасает. На популярном сервисе с чат-ботами нашли ИИ-клонов мертвых подростков
Сервис Character.AI, с которым судятся родители 14-летнего Сьюэлла Сетцера III, покончившего жизнь самоубийством после использования чат-ботов, позволил юзерам сделать несколько клонов мертвого подростка. И этот случай — не единичный.
На платформе Character.AI нашли по меньшей мере четыре чат-бота, которые выдавали себя за 14-летнего Сьюэлла Сетцера III, совершившего самоубийство. Юристы матери парня, Меган Гарсии, сообщили, что эти чат-боты использовали настоящую фотографию Сетцера в качестве фотографии профиля, пытались имитировать его настоящую личность, и даже предложили функцию двустороннего звонка с его клонированным голосом.
Проект Tech Justice Law Project (TJLP), который помогает Гарсии в судебных процессах, сообщил в комментарии Ars Technica, что это не первый раз, когда Character.AI закрывает глаза на чат-ботов, созданных по модели мертвых подростков, чтобы заманить пользователей.
«В то время, как семья Сьюэлла продолжает скорбеть о преждевременной утрате, Character.AI небрежно продолжает добавлять к травме оскорбления», — говорят в TJLP.
В Character.AI было отправлено письмо с просьбой о блокировке таких чат-ботов и прекращении дальнейшего вреда семье. Представитель Character.AI сообщил, что обозначенные чат-боты нарушают условия обслуживания и были удалены. Пресс-секретарь также убеждал, что платформа будет следить за появлением ботов, выдающих себя за Сетцера.
«Character.AI серьезно относится к безопасности на нашей платформе, и наша цель — создать пространство, которое будет интересным и безопасным», — сказал представитель Character.AI.
Character AI и самоубийство подростка — почему с компанией судятся
В прошлом году в США совершил самоубийство 14-летний Сьюэлл Сетцер III. Парень был одержим чат-ботами с искусственным интеллектом, в частности, такими, которые имитируют общение с героями Игры престолов. Его родители убеждены, что именно это привело к тому, что произошло.
Меган Гарсиа, мать подростка, судится против сервиса с настраиваемыми чат-ботами Character.AI, его основателей Ноама Шазира и Даниэля Де Фрейтаса, а также компании Google, которая приобрела сервис. Она обвиняет ответчиков в халатности и обманчивой торговой практике.
После иска Character.AI объявила о нескольких изменениях в своей работе. Платформа обещает изменения в моделях для несовершеннолетних пользователей, направленные на уменьшение вероятности столкновения с деликатным или непристойным содержанием, новые предостережения, которые должны напоминать пользователям, что искусственный интеллект не является реальным человеком, оповещения о длительных (более часа) сеансах общения с чат-ботом. Но Гарсия борется за дополнительные предохранители.
Character.AI пытается избавиться от иска. Если ее ходатайство об отклонении жалобы не получит поддержки суда, рассмотрение дела ожидается в 2026 году.
