У США розробляють бойові дрони з функцією розпізнавання обличчя. Чому це нікому не подобається?

Роботи-вбивці

Контракт від міноборони на $800 тис. отримала компанія із Сіетла, яка спеціалізується на мережевому програмному забезпеченні, онлайн-розвагах за передплатою, а також послугах мобільних розваг та обміну повідомленнями.

За тиждень до цього ВПС США провели випробування під управлінням нейромережі на учбово-тренувальному винищувачі VISTA X-62A від Lockheed Martin, створеному на базі F-16.

Тепер американці планують впровадити в управління дронами штучний інтелект, який зможе розпізнавати обличчя людей. Майбутні безпілотники з такими системами хочуть використовувати у спецопераціях за кордоном для збирання розвідданих. Але військові експерти побоюються, що технологія поки що не готова, і вона може призвести до руйнівних наслідків.

«Є багато етичних наслідків, від того, як такі пристрої можуть перерозподіляти владу чи загрожувати групам у суспільстві, до способів, якими вони загрожують встановленим міжнародним відносинам і гуманітарному праву в зонах конфліктів», — розповів Newsweek професор нових технологій у Сіднейському технологічному університеті Ніколас Девіс.

Незважаючи на те, що ШІ-технології для масового розпізнавання облич та ідентифікації людей у натовпі давно використовують у різних країнах, включно з Китаєм та ОАЕ, впровадження подібних систем у зброю поки що залишається каменем спотикання для міжнародної безпеки.

Окрім проблеми незаконного збору персональної інформації та стеження за людьми в авторитарних країнах, експерти побоюються, що бойові дрони планують навчити автоматично обирати живі цілі та приймати рішення про атаки на конкретних людей.

«Питання тут насправді не так у використанні технологій для відстеження людини, як у прийнятті рішення… Чому якісь люди стають мішенню? Які є докази того, що вони становлять потенційну загрозу?» 一 каже дослідник робототехніки та штучного інтелекту в Ланкастерському університеті Великобританії Майк Райдер.

Зважаючи на те, що США та їхні союзники використовують дрони для запобігання ударам, Райдер каже, що впровадження нових ШІ-технологій може призвести до вбивства невинних людей, знищення політичних конкурентів тощо.

Крім цього, система може оцінювати, що якась людина, наприклад, збирається вчинити теракт, та атакувати її після підтвердження наявності певних індикаторів. Як це працюватиме і хто зможе взяти на себе відповідальність у разі заподіяння шкоди мирним громадянам — поки що невідомо.

Враховуючи використання подібних технологій у мобільних гаджетах, автомобільній індустрії тощо, не виключено, що автоматичне розпізнавання обличчя може часто давати збій, і спроби довірити машині вбивство людини після її ідентифікації переносить цю проблему на зовсім інший рівень.

«Дистанційне вбивство багато в чому є легким, своєрідним віртуальним вбивством у відеогрі. Це саме собою морально проблематично. Ба більше, коли вбивство приписується машині, відсутня відповідальність і справедливість, і безкарно використовується насильство», — резюмує старший викладач кримінології та досліджень безпеки Бірмінгемського міського університету Лілі Хамурціаду.

Скандал у Google

Кілька років тому генеральний директор Google Сандар Пічаї опублікував оновлені принципи розробки штучного інтелекту в компанії.

Вони стверджують, що Google не може створювати ШІ-технології для зброї або інших систем, завдання яких — пряме чи непряме заподіяння шкоди людям.

Такі зміни в політиці компанії були пов’язані з участю розробників Google у так званому «Проекті Мейвен», в рамках якого технологію TensorFlow адаптували для швидкого аналізу фотографій з бойових дронів та ідентифікації живих/неживих цілей.

У Google заявляли, що їхні технології використовуються виключно для мирних цілей і не стосуються ударних дронів. Хоча більше ніж 10 працівників вирішили піти з компанії, пояснюючи це тим, що «керівництво стало менш відкритим щодо своїх рішень у складних питаннях і, схоже, менш зацікавлене у тому, щоб дослухатися до думок працівників».

Інші розробники виступали проти Проєкту Мейвен, вважаючи, що такі тонкі та складні завдання мають виконувати люди, а не комп’ютер, і Google взагалі не має бути залучений до будь-якої військової діяльності.

На підтримку добровільно звільнених майже 4000 працівників Google підписали петицію генеральному директору компанії з проханням негайно зупинити співпрацю з Пентагоном, і гарантувати, що компанія надалі не братиме участі у розробці зброї.

Пічаї виконав вимоги підопічних, але уточнив, що Google все одно співпрацюватиме з владою та армією у сферах кіберзахисту, випробувань, набору в армію, обслуговуванні військовослужбовців і рятувально-пошукових операціях.