Не убий. Чому лідери техноіндустрії відмовилися робити зброю зі штучним інтелектом

18 липня 2018, 12:37

Провідні дослідники штучного інтелекту поручилися не розвивати летальну зброю. Документ підписали засновник Skype Яаан Таллінн, Ілон Маск і творці дочірньої компанії Google DeepMind.

У середині 20-го століття допомога своїй країні в розробці секретних військових технологій була одним з найповажніших занять. Ключові компанії, вчені, інженери двох ворогуючих держав – США і СРСР – боролися за те, щоб придумати таку технологію, яка просуне їхню владу у гонці озброєння.

Відео дня

Для когось це був престиж, для когось – гроші, а хтось просто фанатично любив свою роботу і був радий отримати всі можливості для розвитку. Звичайно, деякі існуючі досі техногіганти, на кшталт IBM та Hewlett-Packard, трохи заплямували свою репутацію подібними справами, але судити їх зараз, очевидно, немає сенсу.

Сьогодні ж, у світі спостерігається зворотна ситуація, або принаймні створена подібна ілюзія.

Минулої ночі виданню The Verge стало відомо, що на Міжнародній спільній конференції зі штучного інтелекту (IJCAI) у Стокгольмі, яку організував Інститут «Майбутнє життя», опублікували доручення з обіцянкою не розвивати «летальну автономну зброю».

Технопортал пише: «це один з останніх кроків неофіційної глобальної коаліції розробників і менеджерів, який виступає проти пропаганди таких технологій».

У поруці зазначено, що системи озброєння, що використовують штучний інтелект (ШІ) «для вибору і дії по цілі, без втручання людини» несуть моральні та прагматичні загрози.

Документ закликає до того, що машини і комп'ютеризовані системи озброєння не варто наділяти можливістю вбивати людей, і, відмовившись від таких технологій, можна знизити потенційні ризики для людства.

Поруку підписали засновник SpaceX та Tesla Ілон Маск, три співзасновника дочірньої компанії DeepMind Google, яка розробляє ШІ, – Шейн Легг, Мустафа Сулейман і Деміс Хасавіс, засновник Skype Яаан Таллінн і деякі відомі по всьому світу дослідники ШІ – Стюарт Рассел, Йошуа Бенджі та Юрген Шмідхубер.

Ми просимо, щоб технологічні компанії та організації, а також керівники, політики та інші особи приєдналися до нас у цій поруці «Ми, що підписалися нижче, закликаємо уряди та їх лідерів створити майбутнє з сильними міжнародними нормами, положеннями і законами проти летальної автономної зброї. Ми не будемо ні брати участь, ні підтримувати розробку, виробництво, торгівлю або використання летальної автономної зброї. Ми просимо, щоб технологічні компанії та організації, а також керівники, політики та інші особи приєдналися до нас у цій поруці», – зазначено в документі.

Автори ініціативи вважають, що розвиток зброї з ШІ може викликати ланцюгову реакцію та гонку озброєнь між країнами, хоча більшість держав у світі ще не мають належних технологій управління такими автономними системами.

Рік тому Інститут «Майбутнє життя», з тими ж учасниками, відправили лист в ООН із закликом розглянути нові регулятивні норми для розробки і використання летальної автономної зброї.

Складно сказати, чи з'явиться оновлене законодавство, і чи зможе його ухвалити влада по всьому світу, адже сьогодні для передових країн впровадження ШІ в армії, безпілотні технології та інша роботизована зброя є одним з найперспективніших напрямів.

Як раніше писало НВ, на початку літа приблизно 4000 співробітників Google змусили керівництво припинити допомогу армії США в розробці військових дронів. Програмісти Google брали участь у так званому Проекті Мейв, і їхня ШІ-технологія TensorFlow допомагала швидко аналізувати фотографії з дрона, автоматично визначаючи, де розташовані живі та неживі об'єкти.

Менеджери прислухалися до вимог працівників і опублікували нові принципи роботи Googlе, в яких з'явились положення, що компанія обіцяє не розробляти ШІ для:

– технологій, які можуть завдати глобальної шкоди;

– зброї або інших технологій, завдання яких – пряме або непряме заподіяння шкоди людям;

– технологій, які збирають або використовують інформацію для спостереження, порушуючи міжнародні норми;

– технологій, які суперечать принципам міжнародного права та правам людини.

poster
Підписатись на щоденну email-розсилку
матеріалів розділу Техно
Розсилка про те як технології змінють світ
Щопонеділка

Приєднуйтесь до нас у соцмережах Facebook, Telegram та Instagram.

Показати ще новини
Радіо НВ
X