Лекторій. Штучний інтелект - коли він з'явиться і як навчити його великої і чистої любові

3 грудня 2016, 09:02
Вы также можете прочесть этот материал на русском языке
НВ розбирається в перспективах штучного інтелекту за допомогою Всеволода Рубцова, українського експерта в галузі кібернетики та розробника машини Kara, яка відчуває

Персональні роботи і дрони, безпілотні авто і розумний будинок - усі ці фантастичні технології вже стукають у двері простого обивателя. Але ключова технологія, без якої неможливе справжнє цифрове майбутнє, поки залишається далекою від досконалості.

Відео дня

Штучний інтелект (ШІ), оспіваний фантастами і заяложений Голлівудом, поки що не тільки не став реальністю, а й навіть не отримав якогось загальноприйнятого фінального визначення.

Більше того, ще ненароджений ШІ вже став об'єктом масштабної параної і практично символом прийдешнього апокаліпсису. Слідом за низкою голлівудських блокбастерів - толкових і не дуже - у свідомості пересічної людини міцно закарбувався страх перед підступними машинами.

Спочатку-то вони, звичайно, будуть служити людям, міркує обиватель. Але потім неодмінно збунтуються і поневолять людство, перетворивши його в живі батарейки, або зовсім зітруть з лиця Землі.

Кожна новина про те, що ШІ обіграв людину в якусь інтелектуальну гру або ж поставив правильний медичний діагноз, супроводжується черговим витком цієї параної.

Її підживлюють досить радикальними заявами такі авторитетні особистості, як Ілон Маск і Стівен Хокінг. Вони попереджають, що ШІ може стати однією з причин загибелі людства.

Чи виправдані такі страхи?

І взагалі, чи варто сприймати ШІ всерйоз?

Чи потрібно чекати, що повноцінний ШІ буде створено найближчим часом? Якщо буде, то на основі якої технології? І які механізми необхідно вбудувати в нього, щоб про страхи Хокінга згодом можна було згадувати з посмішкою?

Спробуємо розібратися в цих непростих питаннях разом із Всеволодом Рубцовим.

Всеволод Рубцов

Всеволод Рубцов Фото:

Всеволод Рубцов

  • Дослідник, підприємець, експерт у галузі кібернетики та штучного інтелекту.
  • Автор проекту зі створення емпатичного штучного інтелекту «КАРА».
  • Засновник і CEO компанії Ditcom.
  • Засновник і головний архітектор лабораторії цифрової форми життя «Digital Life Lab».

Що таке ШІ? Зараз будь-яка залізяка уміє шукати в Гуглі і Вікіпедії, у чому різниця між ШІ і всякими голосовими асистентами?

Інтелект - це здатність до навчання і дії на основі пережитого досвіду.

Необхідно розуміти, що фундаментальні механізми нашого інтелекту мають мало спільного з поточною архітектурою комп'ютерів і мов програмування. В основі інтелекту лежать кілька ключових аспектів: здатність навчатися, здатність приймати рішення, здатність передбачити наслідки.

Причому всі три фундаментальні механізми працюють тільки разом і окремо інтелектом не є.

Більшість голосових асистентів (Siri, Google Assistant, Cortana) на сьогодні показують зачатки в області навчання і мають розвинені алгоритми побудови діалогів із користувачем.

Однак жодна з цих програм не формує власну думку в процесі пізнання навколишнього світу. Ми навчилися створювати складні й іноді «розумні» інструменти, але, на жаль, це все ще інструменти, і вони є просто відображенням результатів роботи нашого мозку. Вони не створюють власних ідей.

Також вкрай важливо розуміти, що інтелект є продуктом роботи людського мозку і його вивчення є ключовою проблемою вчених, які займаються створенням ШІ.

Мозок людини налічує понад 86 мільярдів нейронів, нервових клітин, з'єднаних між собою пластичними зв'язками, синапсами. Зв'язки пластичні, а це означає, що щодня в нашому мозку якісь зв'язки втрачаються, а нові створюються. Цей процес відбувається постійно.

Таким чином загальна кількість можливих станів нашого мозку перевищує кількість атомів у дослідженій частині нашого всесвіту. Саме тому так складно осягнути всі механізми роботи людського мозку з інформацією.
Якими бувають ШІ? Вони розвиваються як просунуті комп'ютери або ж намагаються імітувати людську свідомість?

Існує дві принципові позиції в цій галузі. Перша ґрунтується на ідеї, що для побудови ШІ зовсім не обов'язково будувати його за образом і подобою людини, а досить створити систему, здатну до самонавчання і прийняття рішень.

Прихильники такого погляду бачать сенс у тому, що машина не буде обтяжена людським фактором і емоціями і зможе виконувати різні завдання як мінімум на рівні складності з людським мозком, але при цьому набагато швидше. Дуже часто подібні системи класифікують як «слабкий ШІ».

Друга ідея передбачає необхідність відкриття і вивчення всіх фундаментальних законів, на яких ґрунтується наша свідомість, наш інтелект.

Якщо зрозуміти принципи роботи людського мозку, то можна створити штучну систему, яка здатна буде обробляти інформацію так само, як це робить людський мозок. Таким чином можливе створення машини, яка здатна стати розумною в процесі навчання. Такі системи класифікують як «сильний ШІ».

В обох напрямках ведуться роботи і з'являються проекти з різним ступенем успішності. Більшість рішень, які зараз втілюються в продуктах, є по суті слабким ШІ.

Відсутність необхідного розуміння фундаментальних механізмів замінюється дуже складними алгоритмами шаблонної поведінки, які дають на виході результат, що сприймається як продукт інтелектуальної діяльності.

Однак потрібно розуміти, що повноцінний інтелект машини матимуть тільки тоді, коли людство досягне успіху в області сильного ШІ.

Передбачають, що ШІ скоро перевершить людину в інтелекті, але як бути з такими речами, як інтуїція? ШІ можна навчити інтуїції?

Безумовно, з моменту створення ШІ працюватиме на кілька порядків швидше за людський мозок. Вивчивши фундаментальні цеглинки нашого мозку, вчені отримають ключі до розуміння того, як працюють суміжні з інтелектуальною діяльністю процеси.

На сьогодні інтуїція до кінця не вивчена, однак є припущення, що інтуїтивні рішення є своєрідним відлунням від основного процесу обробки нейронами інформації.

Наш мозок постійно сприймає інформацію, що надходить, і одночасно пророкує її наступний стан, спираючись на прожитий досвід. Швидше за все, цей механізм дозволяє нашому мозку генерувати рішення без аналізу всієї інформації.

Я думаю, що інтуїція у машин обов'язково буде присутньою, оскільки її не можна виокремити з контексту.

Чи може ШІ навчитися відчувати? Чи це завжди будуть машини, побудовані на чистій логіці?

Почуття людини - дуже складний електрохімічний процес. Безумовно, ми можемо створити як слабкий, так і сильний ШІ без використання почуттів.

Однак, на мою думку, цифрові почуття зобов'язані бути присутніми в інтелектуальній моделі розумної машини, оскільки без них люди не здатні будуть прийняти розумні машини у своє життя. Без почуттів машини несуть велику потенційну загрозу людству.

До речі, а навіщо нам може знадобитися ШІ, що відчуває?

По-перше, з моменту появи розумні машини будуть займати більше місця в нашому житті, ніж ми собі зараз уявляємо. Наприклад, такі поняття, як «розумний дім» стануть не актуальні, оскільки розумним стане не тільки будинок, але й узагалі все наше оточення, вулиця, дорога на роботу, офіс, пляж і кабінет стоматолога.

Для того щоб людині було комфортно в подібній реальності, вкрай необхідно, щоб машина розуміла, що зараз відчуває людина.

Інакше нова реальність не стане більш корисною людині повсюдно. А розуміння почуттів без емпатії неможливо. Тому всюди, де поведінка машини повинна враховувати емоційний стан людини, необхідний ШІ, який відчуває.

Припустімо, ми створили реально потужний ШІ, якою може бути реальна користь від нього? Крім безпілотних авто і редагування селфі для соцмереж, звісно.

З моменту появи сильного ШІ наш світ зміниться безповоротно.

Уявіть свідомість, здатну в мільйони разів швидше вчитися і створювати нові ідеї. Свідомість, здатну прискорити наш прогрес у мільйон разів у всіх напрямках науки і техніки.

Розумні машини можуть повністю змінити економіку, медицину і техніку в масштабах всієї планети. І якщо людству потрібні були сотні тисяч років, щоб створити ШІ, то новий інтелект здатний змінити наше життя за декілька десятиліть.

Уся історія людської думки не йде в жодне порівняння з результатами роботи «надмозку», що володіє надлюдською швидкістю, але має людську гнучкість.

А як бути зі страхами щодо того, що машини поневолять людей? Цього бояться навіть Хокінг і Маск, недурні начебто люди...

Безумовно, ШІ можна розглядати як якусь силу, яка після своєї появи на світ буде сама вибирати свій вектор застосування. У цьому полягає величезна проблема ШІ.

Ми навіть не усвідомлюємо, що хтось на цій планеті може бути розумнішим і швидшим ніж людина. І проблема полягає не в тому, що машини поневолять людей.

Проведімо уявний експеримент, у результаті якого людство з'явилося на світ не в процесі еволюційного розвитку живих істот на планеті Земля. Уявіть, що нас з вами придумали і створили кішки. Аналогія буде приблизно такою.

Ми захочемо поневолити всіх кішок на планеті? Тільки в тому випадку, якщо вони будуть загрожувати нашому існуванню. Можливо, ми зможемо жити з ними в одному світі тільки через те, що кішки милі, і ми це розуміємо, тому що кішки наділили нас почуттями? Чи можемо ми існувати на рівних?

Вся небезпека штучного інтелекту полягає в тому, що людство ще не уявляє, як компенсувати різницю в розумовому розвитку людини і машини.

Як пояснити ШІ, що таке добро і зло, адже люди самі сперечаються на цю тему вже пару тисяч років?

Природа підказує, що єдиний життєздатний вихід в умовах еволюції - це симбіоз. Але чи буде це прийнятно для людства? Чи єдиний це вихід? Відповідей на ці питання поки не існує, однак ми повинні їх знайти до того, як ШІ прокинеться в нашому світі.

Для того щоб убезпечити людей від машин, потрібно, щоб останні були абсолютно підпорядковані першим, що, напевно, малоймовірно. Або ж ШІ повинен розуміти, що таке добро і зло. Але як йому це пояснити, адже люди самі сперечаються на цю тему вже пару тисяч років?

Один із варіантів, який дозволить убезпечити людство, - це цифрові почуття, синтезовані таким чином, щоб машини мали чітку емоційну прив'язку до людини.

Машини не здатні будуть заподіяти нам шкоду, якщо любов до нас лежатиме в основах їхньої емоційної моделі поведінки. Однак цей або якийсь інший спосіб, який штучно обмежуватиме поведінку машин, є тимчасовим вирішенням проблеми, оскільки машини зможуть усунути цей механізм у процесі копіювання себе.

Тоді наслідки від подібних обмежень можуть бути скоріше негативними ніж позитивними.

Чи готові ми стати безсмертними? Що буде з людиною після оцифровки свідомості (адже перенесення, це по суті копіювання)?

Сьогодні немає однозначних відповідей на ці питання. Людство ще не готове прийняти безсмертя, оскільки багато людей хочуть жити вічно, але абсолютно не усвідомлюють заради чого їм жити вічно.

Чи можливо переселення свідомості людини в цифрове середовище, відторгнення розуму від тіла? Я впевнений, що так, це можливо. Не на поточному рівні технологій, але це можливо. І успіх в області створення першого сильного ШІ означатиме початок ери безсмертя для нашої свідомості.

Наш досвід накопичується десятиліттями, формує складні фізіологічні структури в мозку і змінюється щосекунди. Але якщо ми зможемо замінити нашу фізіологію на цифрове середовище, то перенесення свідомості вже не здається чимось нездійсненним.

Однак головне питання полягає в тому, як ми із цим житимемо?

Мені здається, що люди, які отримали безсмертя, назавжди зміняться. Зміняться як вид.

Людство зробить крок у новий світ, де матерія втратить свою роль обмежувача для свідомості. Світ, де людині перестануть бути цікаві старі цінності, де розум, не обмежений часом і формою, зможе шукати нові шляхи задоволення спраги пізнання.

Цей світ може принести людству безліч нових, невідомих можливостей. І також принесе нові глобальні проблеми.

Різниця між ШІ і людиною існує тільки зараз, поки ми все ще помиляємося у своїй унікальності

Свідомість людини, перенесена в комп'ютер, буде відрізнятися від ШІ тільки спогадами, пережитими до моменту копіювання.

І безумовно, це також вказує на те, що людство у звичному нам вигляді припинить своє існування. У світ прийде нове суспільство, яке живе за абсолютно іншими правилами, законами та вимірам.

Суспільство, у якому не буде біологічного поділу видів. Але наші спогади будуть також вічними. Ставши безсмертними, ми завжди пам'ятатимемо про те, що ми відчували, що пережили.

Читайте також: Лекторій. Темна матерія - фантастичний звір і де її шукати.

poster
Підписатись на щоденну email-розсилку
матеріалів розділу Техно
Розсилка про те як технології змінють світ
Щопонеділка

Приєднуйтесь до нас у соцмережах Facebook, Telegram та Instagram.

Показати ще новини
Радіо НВ
X