Вопрос безопасности. В США хотят заставить чат-ботов с ИИ напоминать пользователям, что они — не люди
Новый законопроект, предложенный сенатором Калифорнии Стивом Падиллой, потребует от чат-ботов, которые взаимодействуют с людьми, время от времени напоминать, что это на самом деле машина, а не реальный человек.
Законопроект SB 243 был представлен как часть усилий по регулированию мер, которые компании, работающие с чат-ботами, должны принимать для защиты детей. Среди требований, которые устанавливает законопроект — запрет на вознаграждения для пользователей за большую вовлеченность, предоставление Государственному департаменту здравоохранения США данных о том, как часто несовершеннолетние демонстрируют признаки суицидальных мыслей.
Также документ обязывает компании в сфере ИИ устанавливать напоминания для пользователей, которые сообщают, что по ту сторону экрана не настоящий человек.
Ранее исследователи из Кембриджского университета обнаружили, что дети чаще, чем взрослые, считают, что чат-боты с ИИ заслуживают доверия, и даже рассматривают их как квазилюдей.
Напомним, в прошлом году 14-летний подросток в США, который активно общался с чат-ботами с искусственным интеллектом Character.AI, трагически покончил жизнь самоубийством. Родители ребенка подали в суд на Character.AI, обвинив платформу в том, что она «неоправданно опасна» и не имеет достаточных защитных ограждений, несмотря на то, что рекламируется как сервис для детей. Этот иск поддержали семьи других пострадавших детей.
