Питання безпеки. В США хочуть змусити чат-боти з ШІ нагадувати користувачам, що вони — не люди

Законопроєкт SB 243 був представлений як частина зусиль щодо регулювання заходів, які компанії, що працюють з чат-ботами, повинні вживати для захисту дітей. Серед вимог, які встановлює законопроєкт — заборона на винагороди для користувачів за більшу залученість, надання Державному департаменту охорони здоров’я США даних про те, як часто неповнолітні демонструють ознаки суїцидальних думок.

Також документ зобов’язує компанії у сфері ШІ встановлювати нагадування для користувачів, які повідомляють, що по той бік екрана не справжня людина.

Раніше дослідники з Кембридзького університету виявили, що діти частіше, ніж дорослі, вважають, що чат-боти з ШІ заслуговують на довіру, і навіть розглядають їх як квазілюдей.

Нагадаємо, минулого року 14-річний підліток в США, який активно спілкувався з чат-ботами зі штучним інтелектом Character.AI, трагічно покінчив життя самогубством. Батьки дитини подали до суду на Character.AI, звинувативши платформу в тому, що вона «невиправдано небезпечна» та не має достатніх захисних огорож, попри те, що рекламується як сервіс для дітей. Цей позов підтримали родини інших постраждалих дітей.