Тотальная слежка. Как искусственный интеллект меняет городскую безопасность (и к лучшему ли)

Сама по себе волоконно-оптическая технология, известная как «распределенное акустическое зондирование» (DAS), лишь посылает лазерные импульсы по кабелю и фиксирует изменения в отраженном свете, вызванные вибрациями. Это превращает обычный кабель в тысячи виртуальных «микрофонов». А когда к нему еще и подключают камеры высокого разрешения и ИИ для распознавания лиц — получается сверхмощное средство для слежки.

По словам основателя Airez Германа ДеБорда, цель системы — отсеивать информационный шум, чтобы службы безопасности получали только важные сигналы. Однако гендиректор и сам признает риски.

«Едва ли не самой тревожной проблемой является потенциал систем ИИ для увековечения предвзятости и неравенства, — объясняет ДеБорд в интервью Medium. — Модели ИИ настолько же хороши, насколько хороши данные, на которых они обучаются. И если эти данные являются несовершенными или предвзятыми, результаты могут усилить вредные стереотипы или недобросовестную практику».

Еще один пример — модель YOLOv8 от Ultralytics. Название расшифровывается как You Only Look Once (Ты смотришь только раз) и прекрасно описывает главное преимущество модели — скорость. В отличие от более медленных систем, YOLO анализирует изображение за один проход через нейросеть.

Представьте, что изображение делится на сетку. Для каждой клетки этой сетки YOLO одновременно прогнозирует, есть ли там объект, где его границы и к какому классу он принадлежит. Это делает ее достаточно быстрой для обработки видео с камер в реальном времени.

В лабораторных условиях YOLOv8 показывает отличные результаты: например, способна с высокой точностью обнаруживать на видео огнестрельное оружие или ножи. Эксперимент Университета Северной Каролины показал, что при определенных настройках модель может фиксировать аномальное поведение и оповещать о нем примерно за 27 секунд.

Хоть YOLOv8 и может быстро обозначать потенциальные угрозы, чтобы ускорить их проверку уже человеком, полагаться на автоматику в вопросах арестов рискованно. Цена ложной сработки — например, в аэропорту — слишком высока.

К тому же, такие системы уязвимы к целенаправленным атакам. Злоумышленники могут «обмануть» ИИ с помощью специальных изображений-«патчей» или просто показав предмет под углом, которого модель «не видела» во время обучения. Это позволяет как скрыть реальную угрозу, так и создать фантомную.

Слежка олимпийского уровня

Европа уже потихоньку испытывает ИИ на безопасность «в полевых условиях». Площадкой для массового видеонаблюдения с помощью ИИ стали прошлогодние Летние Олимпийские игры в Париже.

Власти развернули 485 камер, оснащенных ИИ-модулем Cityvision, для мониторинга толпы, выявления брошенных предметов, падений людей и «подозрительного поведения». Юридически это оформили как временный эксперимент, разрешение на который истекло 31 марта 2025 года. Чтобы настроить модели и уменьшить количество ложных тревог, систему даже тестировали на концерте Depeche Mode в марте 2024-го.

Французский надзорный орган по защите данных (CNIL) следил за соблюдением правил, подчеркивая, что любая биометрическая идентификация категорически запрещена. Кроме камер, власти задействовали в Париже подразделения для борьбы с дронами, радары и средства радиоэлектронной борьбы, а киберспециалисты находились в состоянии повышенной готовности.

Еще за год до Олимпиады Amnesty International и другие правозащитные организации забили тревогу: мол, разрешение на массовое наблюдение на мероприятии подрывает усилия ЕС по регулированию ИИ. Оппоненты отмечали, что даже без распознавания лиц людей можно идентифицировать по походке или поведению.

Да и когда дорогая инфраструктура уже создана и модели обучены, у чиновников может возникнуть соблазн не отказываться от нее после окончания эксперимента, а наоборот — расширить ее полномочия.

Впрочем, в мае 2023 года Верховный конституционный суд Франции санкционировал использование AVS (алгоритмическое видеонаблюдение) на Олимпиаде. Так Франция стала первой страной ЕС, которая легализовала наблюдение с помощью ИИ.

Готова ли Европа к ИИ в городах

Не отстает и Великобритания. С октября 2022 года по сентябрь 2023 года компания Transport for London протестировала 11 алгоритмов для мониторинга людей в Лондонском метрополитене. За это время ИИ проанализировал видео с камер и сгенерировал 44 тыс. оповещений — из них 19 тыс. поступили персоналу в реальном времени.

Система реагировала на «уклонение от оплаты», «шатание без дела» и даже «езду на велосипеде». Как пишет Wired, были случаи, когда система обозначала обычных пассажиров как потенциальную угрозу, потому что алгоритм трактовал их язык тела как подозрительный.

Евросоюз делает ставку на свой AI Act — первый в мире комплексный закон об искусственном интеллекте, который устанавливает жесткие ограничения для биометрической слежки. Недавно Еврокомиссия ужесточила правила: полиция не сможет использовать только распознавание лиц для задержания.

Рано или поздно слежка с помощью ИИ доберется и до украинских городов. Если к тому времени полномасштабное вторжение РФ продолжится, в условиях войны аргумент «это спасает жизнь» перекроет любые опасения относительно приватности.

Но и когда угроза исчезнет, система останется. И неясно, в ком тогда она начнет видеть «подозрительное поведение». Именно поэтому разработать прозрачные правила для ИИ на украинских улицах лучше заранее.