«Перша поправка захищає». Звинувачений у доведенні підлітка до самогубства ШІ-стартап вперше відповів на претензії

Character AI намагається позбутися поданого проти неї позову. У її клопотанні про закриття справи, поданому до суду, стверджується, що платформа захищена від відповідальності Першою поправкою, пише TechCrunch.

«Перша поправка забороняє деліктну відповідальність (відповідальність за шкоду, завдану неправомірними рішеннями, діями чи бездіяльністю — NV) для медіа та технологічних компаній, за нібито шкідливі висловлювання, включаючи висловлювання, які нібито призводять до самогубства. Єдина відмінність цієї справи від попередніх полягає в тому, що частина висловлювань тут пов’язана зі штучним інтелектом. Але контекст експресивного мовлення — чи то розмова зі штучним інтелектом, чи то взаємодія з персонажем відеоігри — не змінює аналізу Першої поправки», — йдеться в заяві.

Адвокати компанії стверджує, що справжній намір позивачів полягає в тому, щоб закрити Character AI й негайно прийняти законодавство, яке регулює подібні технології.

«Окрім заявленого адвокатами наміру „закрити“ Character AI, [їхня скарга] спрямована на радикальні зміни, які … обмежать можливості мільйонів користувачів Character AI створювати та брати участь у розмовах з персонажами», — йдеться в заяві захисників.

Character AI та самогубство підлітка — чому з компанією судяться

Торік у США вчинив самогубство 14-річний Сьюелл Сетцер III. Хлопець був одержимий чат-ботами зі штучним інтелектом, зокрема, такими, що імітують спілкування з героями Гри престолів. Його батьки переконані, що саме це призвело до того, що сталося.

Меган Гарсіа, мати підлітка, позивається проти сервісу з налаштованими чат-ботами Character.AI, його засновників Ноама Шазіра та Даніеля Де Фрейтаса, а також компанії Google, що придбала сервіс. Вона звинувачує відповідачів у недбалості та оманливій торговій практиці.

Після позову Character.AI оголосила про кілька змін у своїй роботі. Платформа обіцяє зміни в моделях для неповнолітніх користувачів, спрямовані на зменшення ймовірності зіткнення з делікатним або непристойним вмістом, нові застереження, що мають нагадувати користувачам, що штучний інтелект не є реальною людиною, сповіщення про тривалі (понад годину) сеанси спілкування з чат-ботом. Але Гарсія бореться за додаткові запобіжники.