Контроль над нейросетями. Эстония будет отслеживать действия искусственного интеллекта с помощью новой системы

Об этом сообщает Gizmodo.

Цель страны — отслеживание онлайн-операций программ и установление лиц или компаний, стоящих за разработкой или использованием этих алгоритмов.

По словам премьер-министра Эстонии Кристена Михала, полномочия агентов должны быть ограниченными, контролируемыми и подлежащими аудиту. Например, должна быть возможность указать, может ли агент только просматривать данные, готовить документ или действовать в пределах фиксированного денежного лимита

«Не может быть так, чтобы человека заставляли предоставлять своему помощнику ИИ доступ ко всем своим правам, услугам и данным», — написала Кристен Михал в сети X.

Чиновник добавил, что при условии правильной реализации такая программа способна превратиться в международный стандарт для регулирования и мониторинга систем ИИ.

Пока остается неясным, когда система заработает и как правительство Эстонии будет обеспечивать ее выполнение. Также нет точной информации, будут ли подпадать под новый закон только местные разработки или все алгоритмы, обрабатывающие данные на территории Эстонии.

ИИ-агенты позиционируются как инструмент для повышения производительности, ведь они способны брать на себя ряд рутинных задач. Но на практике ИИ часто неверно интерпретирует инструкции. Это может привести к удалению корпоративной базы данных, утечке конфиденциальной информации и другим последствиям.