Експерти закликають призупинити розробку штучного інтелекту. Їх розкритикували — але не через те, про що ви подумали

Підписанти вказують, що швидкий розвиток ШІ, за яким ми спостерігаємо останніми роками, вже призвів до того, що невдовзі може виникнути т.зв. загальний штучний інтелект (AGI). Це ШІ, головною характеристикою якого є можливість виконувати будь-які завдання, які може виконувати людина. Фактично, коли ми говоримо про те, що нас замінять машини — це буквально ось цей сценарій.

Саме тому експерти вважають, що ця гонитва озброєнь рухає людство до катастрофи. Вони пояснюють це тим, що ми не готові до появи справжнього AGI; наприклад, нещодавнє дослідження показало, що нові інструменти ШІ на кшталт ChatGPT та Midjourney вплинуть як мінімум на 300 млн робочих місць. Це не значить, що усі ці люди втратять роботу — радше навпаки, більшість зможе підвищити свою продуктивність, якщо адаптується до можливостей, які дає нам штучний інтелект прямо зараз.

Проте AGI — це зовсім інше. Це буквальна заміна людей у майже будь-які діяльності. Головна проблема ШІ — неможливість продукувати щось своє, креативити; фактично це величезний масив даних, який дозволяє тому ж таки ChatGPT видавати релевантні відповіді на безліч запитань. Проте чат-бот насправді не розуміє, що він пише — це величезний Т9, який прогнозує кожне наступне слово так, щоб його текст зрештою виглядав переконливо. AGI вже буде розуміти, що він пише. Ба більше, він розумітиме, навіщо він це робить.

«AGI може призвести до великих змін в історії життя на Землі… На жаль, зараз не спостерігається достатнього рівня планування та управління, а в останні місяці лабораторії ШІ вийшли з-під контролю; ніхто не може зрозуміти, прогнозувати та контролювати розробку та розгортання все більш потужних цифрових розумів — навіть їхні творці», — йдеться у відкритому листі, у якому експерти закликають призупинити розробку ШІ.

Future of Life Institute закликає усі лабораторії ШІ поставити їхні дослідження на шестимісячну паузу, щоб детальніше вивчити усі питання, що стосуються безпеки технології. Водночас організація не закликає зупинити розробку ШІ в цілому, а радше «відступити від небезпечної гонитви до все більших і непередбачуваних моделей чорної скриньки з надзвичайними можливостями».

Проте команда інших вчених розкритикувала Future of Life Institute та усіх підписантів їхнього відкритого листа. Тімніт Гебру, Емілі Бендер, Анджеліна Макміллан-Мейджор і Маргарет Мітчелл — це фахівці з етики штучного інтелекту, які, крім своєї роботи, відомі тим, що їх вигнали з Google за статтю, у якій вони критикували можливості мовних моделей.

Зараз вони працюють в DAIR (The Distributed AI Research Institute, Дослідницький інститут розподіленого штучного інтелекту), головна ціль якого — вивчення, виявлення та запобігання шкоді, пов’язаної зі штучним інтелектом. Вони опублікували свою відповідь на відкритий лист Future of Life Institute, у якій розкритикували позицію, висловлену у ньому.

На їхню думку, відкритий лист акценту увагу на гіпотетичних проблемах майбутнього, ігноруючи при цьому актуальну повістку. Дослідники пояснюють, що вже зараз інструменти ШІ можуть використовуватися для відстеження людей, крадіжки даних та експлуатації працівників.

Попри те, що команда DAIR погоджується з деякими позиціями відкритого листа, вони закликають боротися з проблемами, які з’являються та існують у сучасному світі. Ризик апокаліпсису в стилі Матриці чи Термінатора — це точно не те, чим ми маємо перейматися зараз, враховуючи бурхливий розвиток ШІ, пояснюють вони.

В той час як підписанти відкритого листа бояться гіпотетичної технології далекого майбутнього, вже зараз поліція може використовувати інструменти компанії Clearview AI для ідентифікації людей та навіть арешту невинних, якщо штучний інтелект помилиться у цьому.

Тому вчені закликають не до паузи у дослідженнях, а у запровадженні прозорого регулювання, яке дозволить спільноті контролювати корпорації та компанії, які працюють над вдосконаленням систем ШІ. «Настав час діяти, але в центрі нашої уваги не повинні бути уявні „потужні цифрові уми“. Замість цього ми повинні зосередитися на дуже реальних й актуальних експлуатаційних практиках компаній, які претендують на їх створення, які швидко централізують владу та посилюють соціальну нерівність», — пишуть дослідники.