Чи зможемо ми контролювати надрозумний штучний інтелект? Відповідь вам не сподобається

Проте існує думка, що системи штучного інтелекту розвиваються надто швидко — і навіть незважаючи на загальну кооперацію, одного разу все може вийти з-під контролю.

«Я міг би припустити, що через сотні років практично не залишиться сфер, у яких ШІ не зможе конкурувати з людиною», — говорить Ерік Шмідт, колишній голова Google, який після звільнення з компанії зосередився на вивченні ШІ. Він упевнений — у найближчому майбутньому нейромережі не зможуть замінити людей, проте через деякий час це буде цілком реальним. Особливо якщо згадати про те, що деякі дослідники вже зараз намагаються наділити роботів людськими когнітивними здібностями, щоб ті могли проводити аналогії та розвивати «фантазію».

Навіває песимізму й Ілон Маск, який упевнений, що небезпека, яку несе за собою штучний інтелект, що не контролюється, набагато вища, ніж ядерна війна.

Головна небезпека штучного інтелекту не в тому, що він раптом озлобиться і вирішить знищити людство. Робота комп’ютера — це насамперед логіка та ергономіка. І якщо система вирішить, що людина так чи інакше знижує ефективність вирішення поставленого перед нею завдання, ніхто не уявляє, до чого це може призвести.

Нещодавно міжнародна команда вчених провела дослідження з метою з’ясувати, чи зможе людство якимось чином контролювати надрозумний ШІ. І відповідь вас навряд чи порадує.

Головна проблема нашої потенційної підготовки до роботи з таким штучним інтелектом — те, що нам необхідно симулювати взаємодію з ним. Однак навіть подібна симуляція виходить за межі нашого розуміння, адже ми не маємо жодного поняття, як цей високорозвинений ШІ поводитиметься в тій чи іншій ситуації, а тому створення точної моделі практично неможливе. Якщо комп’ютерна система працює на рівні, що перевищує можливості наших програмістів, ми більше не можемо встановлювати обмеження, пише ScienceAlert.

Якщо ми говоримо про надрозвинений ШІ — це машина, яка зможе утримувати у своїй пам’яті роботу всіх комп’ютерних програм — зокрема тих, які написані, щоб її зупинити. Фактично це означає, що такий штучний інтелект зможе або зупинити виконання цієї програми або знайти в ній баг, який дозволить оминути виконання її завдання.

Цей ШІ матиме передові обчислювальні можливості та інтелект вище людського рівня. Система зможе вдосконалюватися без участі людини — навіть цей чинник означає втрату контролю над нею. Більше того, може настати момент, коли швидкість розвитку ШІ стане настільки високою, що людський розум у принципі не зможе впоратися з такою кількістю знань і тим, щоб їх засвоїти.

Однією з альтернатив може бути відключення такої системи від інтернету або певних мереж, через які вона може завдати найбільшої шкоди. Проте вчені відкидають цю можливість: по-перше, ШІ може прорахувати ймовірність свого відключення та «придумати» альтернативний план; по-друге, який взагалі сенс створювати подібну потужну систему, щоб потім обмежувати її можливості?

Проблема полягає ще й у тому, що ми в принципі не зможемо вловити момент переходу ШІ з розряду «звичайного» в «надрозумне». Ми не уявляємо, як це виглядає, що цьому сприятиме і як це контролювати. Тому важливо вже зараз визначити, куди ми рухаємося, чого ми хочемо від ШІ та як плануємо стежити за тим, щоб вона не переходила встановлені людиною межі.