Лучше поздно, чем никогда. Скандальный ИИ-сервис Character.AI запустил функцию родительского контроля

Платформа Character.AI представила новый инструмент, разработанный для того, чтобы дать родителям возможность следить за тем, как их дети используют продукты компании. Новая функция «родительская статистика» доступна через настройки учетной записи ребенка. Чтобы ее включить, пользователь должен добавить электронный адрес взрослого в настройках, а затем предложить ему получать еженедельный отчет о деятельности, составленный Character.AI.

Как разработчики сообщают в блоге, этот отчет содержит информацию о времени, проведенном на платформе как на мобильном устройстве, так и в Интернете. Также можно просмотреть список персонажей, с которыми подросток часто общается. В то же время отчет не раскрывает содержание разговоров ребенка с чат-ботом на основе искусственного интеллекта.

Character.AI описывает новую функцию как «первый шаг» к предоставлению родителям информации о деятельности их ребенка на платформе. Ребенок, пользующийся сервисом, не может самостоятельно отменить доступ своих родителей к этим данным. Для этого нужно отправить запрос, который должен быть одобрен с аккаунта взрослого.

Напомним, Character.AI столкнулась с несколькими исками от родителей, чьи дети пострадали в результате использования чат-ботов компании. В прошлом году в США совершил самоубийство 14-летний Сьюэлл Сетцер III. Парень был одержим чат-ботами с искусственным интеллектом, в частности, такими, имитирующими общение с героями Игры престолов. Его родители убеждены, что именно общение подростка с чат-ботами привело к случившемуся.