Це жахає. На популярному сервісі з чат-ботами знайшли ШІ-клонів мертвих підлітків
ChatGPT
Підліток спілкувався з чат-ботом перед тим, як накласти на себе руки (Фото: Center for Humane Technology)
Сервіс Character.AI, з яким судяться батьки 14-річного Сьюелла Сетцера III, що покінчив життя самогубством після використання чат-ботів, дозволив юзерам зробити кілька клонів мертвого підлітка. І цей випадок — не одиничний.
На платформі Character.AI знайшли щонайменше чотири чат-боти, які видавали себе за 14-річного Сьюелла Сетцера III, що вчинив самогубство. Юристи матері хлопця, Меган Гарсії, повідомили, що ці чат-боти використовували справжню фотографію Сетцера як фотографію профілю, намагалися імітувати його справжню особистість, і навіть запропонували функцію двостороннього дзвінка з його клонованим голосом.
Проєкт Tech Justice Law Project (TJLP), який допомагає Гарсії в судових процесах, повідомив в коментарі Ars Technica, що це не перший раз, коли Character.AI закриває очі на чат-ботів, створених за моделлю мертвих підлітків, щоб заманити користувачів.
«У той час, як сім'я Сьюелла продовжує сумувати про передчасну втрату, Character.AI недбало продовжує додавати до травми образи», — кажуть в TJLP.
До Character.AI було надіслано лист із проханням про блокування таких чат-ботів і припинення подальшої шкоди сім'ї. Представник Character.AI повідомив, що позначені чат-боти порушують умови обслуговування та були видалені. Прес-секретар також переконував, що платформа стежитиме за появою ботів, які видають себе за Сетцера.
«Character.AI серйозно ставиться до безпеки на нашій платформі, і наша мета — створити простір, який буде цікавим і безпечним», — сказав представник Character.AI.
Character AI та самогубство підлітка — чому з компанією судяться
Торік у США вчинив самогубство 14-річний Сьюелл Сетцер III. Хлопець був одержимий чат-ботами зі штучним інтелектом, зокрема, такими, що імітують спілкування з героями Гри престолів. Його батьки переконані, що саме це призвело до того, що сталося.
Меган Гарсіа, мати підлітка, позивається проти сервісу з налаштованими чат-ботами Character.AI, його засновників Ноама Шазіра та Даніеля Де Фрейтаса, а також компанії Google, що придбала сервіс. Вона звинувачує відповідачів у недбалості та оманливій торговій практиці.
Після позову Character.AI оголосила про кілька змін у своїй роботі. Платформа обіцяє зміни в моделях для неповнолітніх користувачів, спрямовані на зменшення ймовірності зіткнення з делікатним або непристойним вмістом, нові застереження, що мають нагадувати користувачам, що штучний інтелект не є реальною людиною, сповіщення про тривалі (понад годину) сеанси спілкування з чат-ботом. Але Гарсія бореться за додаткові запобіжники.
Character.AI намагається позбутися позову. Якщо її клопотання про відхилення скарги не здобуде підтримки суду, розгляд справи очікується у 2026 році.
