Тотальне стеження. Як штучний інтелект змінює міську безпеку (і чи на краще)

Сама собою волоконно-оптична технологія, відома як «розподілене акустичне зондування» (DAS), лише посилає лазерні імпульси по кабелю і фіксує зміни у відбитому світлі, викликані вібраціями. Це перетворює звичайний кабель на тисячі віртуальних «мікрофонів». А коли до нього ще й підключають камери високої роздільності та ШІ для розпізнавання облич — виходить надпотужний засіб для стеження.

За словами засновника Airez Германа ДеБорда, мета системи — відсіювати інформаційний шум, щоб служби безпеки отримували лише важливі сигнали. Проте гендиректор і сам визнає ризики.

«Чи не найтривожнішою проблемою є потенціал систем ШІ для увічнення упередженості й нерівності, — пояснює ДеБорд в інтерв'ю Medium. — Моделі ШІ настільки ж хороші, наскільки хороші дані, на яких вони навчаються. І якщо ці дані є недосконалими або упередженими, результати можуть посилити шкідливі стереотипи або недобросовісну практику».

Ще один приклад — модель YOLOv8 від Ultralytics. Назва розшифровується як You Only Look Once (Ти дивишся лише раз) і чудово описує головну перевагу моделі — швидкість. На відміну від повільніших систем, YOLO аналізує зображення за один прохід через нейромережу.

Уявіть, що зображення ділиться на сітку. Для кожної клітинки цієї сітки YOLO одночасно прогнозує, чи є там об'єкт, де його межі та до якого класу він належить. Це робить її достатньо швидкою для обробки відео з камер у реальному часі.

У лабораторних умовах YOLOv8 показує чудові результати: приміром, спроможна з високою точністю виявляти на відео вогнепальну зброю чи ножі. Експеримент Університету Північної Кароліни показав, що за певних налаштувань модель може фіксувати аномальну поведінку і сповіщати про неї приблизно за 27 секунд.

Хоч YOLOv8 і може швидко позначати потенційні загрози, щоб прискорити їхню перевірку вже людиною, покладатися на автоматику в питаннях арештів ризиковано. Ціна помилкового спрацювання — наприклад, в аеропорту — зависока.

До того ж, такі системи вразливі до цілеспрямованих атак. Зловмисники можуть «обдурити» ШІ за допомогою спеціальних зображень-«патчів» або просто показавши предмет під кутом, якого модель «не бачила» під час навчання. Це дозволяє як приховати реальну загрозу, так і створити фантомну.

Стеження олімпійського рівня

Європа вже поволі випробовує ШІ на безпеку «в польових умовах». Майданчиком для масового відеоспостереження за допомогою ШІ стали торішні Літні Олімпійські ігри в Парижі.

Влада розгорнула 485 камер, оснащених ШІ-модулем Cityvision, для моніторингу натовпу, виявлення покинутих предметів, падінь людей та «підозрілої поведінки». Юридично це оформили як тимчасовий експеримент, дозвіл на який сплив 31 березня 2025 року. Щоб налаштувати моделі та зменшити кількість хибних тривог, систему навіть тестували на концерті Depeche Mode у березні 2024-го.

Французький наглядовий орган із захисту даних (CNIL) стежив за дотриманням правил, наголошуючи, що будь-яка біометрична ідентифікація категорично заборонена. Крім камер, влада задіяла в Парижі підрозділи для боротьби з дронами, радари і засоби радіоелектронної боротьби, а кіберфахівці перебували в стані підвищеної готовності.

Ще за рік до Олімпіади Amnesty International та інші правозахисні організації забили на сполох: мовляв, дозвіл на масове спостереження на заході підриває зусилля ЄС щодо регулювання ШІ. Опоненти наголошували, що навіть без розпізнавання облич людей можна ідентифікувати за ходою чи поведінкою.

Та й коли дорога інфраструктура вже створена і моделі навчені, в урядовців може виникнути спокуса не відмовлятися від неї після закінчення експерименту, а навпаки — розширити її повноваження.

Утім, у травні 2023 року Верховний конституційний суд Франції санкціонував використання AVS (алгоритмічне відеоспостереження) на Олімпіаді. Так Франція стала першою країною ЄС, яка легалізувала спостереження за допомогою ШІ.

Чи готова Європа до ШІ в містах

Не відстає й Велика Британія. Від жовтня 2022 року до вересня 2023 року компанія Transport for London протестувала 11 алгоритмів для моніторингу людей у Лондонському метрополітені. За цей час ШІ проаналізував відео з камер і згенерував 44 тис. сповіщень — із них 19 тис. надійшли персоналу в реальному часі.

Система реагувала на «ухилення від оплати», «вештання без діла» і навіть «їзду на велосипеді». Як пише Wired, були випадки, коли система позначала звичайних пасажирів як потенційну загрозу, бо алгоритм трактував їхню мову тіла як підозрілу.

Євросоюз робить ставку на свій AI Act — перший у світі комплексний закон про штучний інтелект, який встановлює жорсткі обмеження для біометричного стеження. Нещодавно Єврокомісія посилила правила: поліція не зможе використовувати лише розпізнавання облич для затримання.

Рано чи пізно стеження за допомогою ШІ дістанеться й українських міст. Якщо до того часу повномасштабне вторгнення РФ триватиме, в умовах війни аргумент «це рятує життя» перекриє будь-які побоювання щодо приватності.

Але й коли загроза зникне, система залишиться. І неясно, у кому тоді вона почне бачити «підозрілу поведінку». Саме тому розробити прозорі правила для ШІ на українських вулицях краще заздалегідь.