«Неприемлемые риски». ЕС установил ограничения на использование ИИ

С этой недели в Европейском Союзе регуляторы блока могут запретить использование систем искусственного интеллекта, которые, по их мнению, представляют «неприемлемый риск» или могут нанести вред.

В соответствии с новым законодательством, блок распределяет продукты с искусственным интеллектом на четыре категории в зависимости от рисков, которые они несут, и регуляторных мер, которые в отношении них принимаются. Первая группа — с минимальным риском. Это продукты, которые не будут подвергаться регуляторному контролю. К ним относятся спам-фильтры для почтовых ящиков и другие продукты. Вторая группа — ИИ с ограниченным риском и легким регуляторным надзором. К таким относятся чат-боты для обслуживания клиентов. К третьей группе относятся программы с высоким риском и жестким регуляторным контролем. Это, например, ИИ для рекомендаций в сфере здравоохранения.

• используются для социального оценивания (например, создание профилей риска на основе поведения человека);
• манипулируют решениями человека;
• используют такие уязвимые места, как возраст, инвалидность или социально-экономический статус;
• пытаются предсказать совершение преступлений людьми на основе внешнего вида;
• используют биометрические данные, чтобы определить характеристики человека, например сексуальную ориентацию;
• собирают биометрические данные «в реальном времени» в общественных местах для целей правоохранительных органов;
• пытаются определить эмоции людей на работе или в школе;
• создают — или расширяют — базы данных распознавания лиц, собирая изображения онлайн или с камер безопасности.

Компании, которые будут использовать в ЕС приложения для искусственного интеллекта, соответствующие критериям четвертой группы, будут оштрафованы, независимо от того, где они расположены. Они могут получить штраф на сумму до 35 миллионов евро (около 36 миллионов долларов), или 7% их годового дохода за предыдущий финансовый год, в зависимости от того, что больше.

«Организации должны были полностью соответствовать требованиям до 2 февраля, но следующий большой крайний срок, о котором компании должны знать, — это август. К тому времени мы будем знать, кто является компетентными органами, и штрафы и положения о принудительном исполнении вступят в силу», — объяснил в комментарии TechCrunch Роб Сумрой, руководитель отдела технологий британской юридической фирмы Slaughter and May.

Напомним, в 2024 году был принят Закон ЕС об искусственном интеллекте. Он официально вступил в силу 1 августа 2024 года, но некоторые его положения начали действовать позже. В сентябре прошлого года более 100 компаний подписали добровольное обязательство начать применять принципы Закона об искусственном интеллекте еще до начала его применения.

В частности, Amazon, Google и OpenAI, взяли на себя обязательства определить системы искусственного интеллекта, которые, вероятно, будут отнесены к категории высокого риска в соответствии с Законом об искусственном интеллекте. Но некоторые другие технологические гиганты, в частности Meta и Apple, проигнорировали закон.