В США разрабатывают боевые дроны с функцией распознавания лица. Почему это никому не нравится?

Роботы-убийцы

Контракт от минобороны на $800 тыс. получила компания из Сиэтла, которая специализируется на сетевом ПО, онлайн-развлечениях по подписке, а также услугах мобильных развлечений и обмена сообщениями.

За неделю до этого ВВС США провели испытания под управлением нейросети на учебно-тренировочном истребителе VISTA X-62A от Lockheed Martin, который создан на базе F-16.

Теперь американцы планируют внедрить в управление дронами искусственный интеллект, который сможет распознавать лица людей. Будущие беспилотники с такими системами хотят использовать в спецоперациях за рубежом для сбора разведданных. Но военные эксперты опасаются, что технология пока не готова, и она может привести к разрушительным последствиям.

«Существует много этических последствий, от того, как такие устройства могут перераспределять власть или угрожать группам в обществе, до способов, которыми они угрожают установленным международным отношениям и гуманитарному праву в зонах конфликтов», 一 рассказал Newsweek профессор новых технологий в Сиднейском технологическом университете Николас Дэвис.

Несмотря на то, что ИИ-технологии для массового распознавания лиц и идентификации людей в толпе давно используют в разных странах, включая Китай и ОАЭ, внедрение подобных систем в оружие пока остается камнем преткновения для международной безопасности.

Кроме проблемы незаконного сбора персональной информации и слежения за людьми в авторитарных странах, эксперты опасаются, что боевые дроны планируют научить автоматически выбирать живые цели и принимать решения об атаках на конкретных людей.

«Вопрос здесь на самом деле не столько в использовании технологий для отслеживания человека, сколько в принятии решения… Почему какие-то люди становятся мишенью? Какие существуют доказательства того, что они представляют потенциальную угрозу?» 一 говорит исследователь робототехники и искусственного интеллекта в Ланкастерском университете Великобритании Майк Райдер.

Учитывая то, что США и их союзники используют дроны для нанесения упреждающих ударов, Райдер говорит, что внедрение новых ИИ-технологий может привести к убийству невиновных людей, уничтожению политических конкурентов и т. д.

Кроме этого, система может оценивать, что какой-то человек, например, собирается совершить теракт, и атаковать его после подтверждения наличия определенных индикаторов. Как это будет работать и кто сможет взять на себя ответственность в случае нанесения вреда мирным гражданам 一 пока неизвестно.

Учитывая использование подобных технологий в мобильных гаджетах, автомобильной индустрии и т. д., не исключено, что автоматическое распознавание лица может часто давать сбой, и попытки доверить машине убийство человека после его идентификации переносит эту проблему на совершенно иной уровень.

«Дистанционное убийство во многом является легким, своего рода виртуальным убийством в видеоигре. Это само по себе морально проблематично. Более того, когда убийство приписывается машине, отсутствует ответственность и справедливость, и безнаказанно используется насилие», — резюмирует старший преподаватель криминологии и исследований в области безопасности Бирмингемского городского университета Лили Хамурциаду.

Скандал в Google

Несколько лет назад генеральный директор Google Сандар Пичаи опубликовал обновленные принципы разработки искусственного интеллекта в компании.

В них утверждается, что Google не может создавать ИИ-технологии для оружия или других систем, задача которых — прямое или косвенное причинение вреда людям.

Такие изменения в политике компании были связаны с участием разработчиков Google в так называемом «Проекте Мэйвен», в рамках которого существующую технологию TensorFlow адаптировали для быстрого анализа фотографий с боевых дронов и идентификации живых/неживых целей.

В Google заявляли, что их технологии используются исключительно в мирных целях и не имеют отношения к ударным дронам. Хотя более 10 сотрудников решили уйти из компании, объясняя это тем, что «руководство стало менее открытым по поводу своих решений в сложных вопросах и, похоже, менее заинтересовано в том, чтобы прислушиваться к мнениям работников».

Другие разработчики выступали против Проекта Мэйвен, считая, что такие тонкие и сложные задачи должны выполнять люди, а не компьютер, и Google вообще не должен быть вовлечен в любую военную деятельность.

В поддержку добровольно уволившихся около 4000 сотрудников Google подписали петицию генеральному директору компании с просьбой немедленно остановить сотрудничество с Пентагоном, и гарантировать, что компания в дальнейшем не будет участвовать в разработке оружия.

Пичаи выполнил требования подопечных, но уточнил, что Google все равно будет сотрудничать с властью и армией в сферах киберзащиты, испытаний, набора в армию, обслуживании военнослужащих и спасательно-поисковых операциях.