Тікати чи дружити? Інженер Google заявив, що штучний інтелект набув свідомості

Їхні бесіди показують, що штучний інтелект має здатність усвідомлювати своє місце у світі і розмірковувати про своє існування.

Чи це так?

Ідея створення розумного та/або свідомого ШІ вже давно витає серед учених. Багато хто вважає її святим Граалем, досягнення якого допоможе нашій цивілізації процвітати та розвиватися неймовірними темпами, оскільки людський мозок буде посилено усвідомленим мозком штучного інтелекту. Багато хто вважає, що майбутнє людства безпосередньо залежить від того, наскільки розвиненим буде ШІ, а тому все більше технологічних компаній присвячують свою роботу саме цій сфері.

Вже не перший рік дослідники намагаються навчити ШІ вигадувати та проводити аналогії, а також екстраполювати — тобто знаходити базові правила та закономірності, щоб потім застосовувати їх до інших об'єктів.

З іншого боку, ця ідея має й критиків: колишній директор Google Ерік Шмідт вважає, що до ідеї усвідомленого ШІ потрібно ставитися з великою обережністю, а його розроблення може призвести до великих проблем у сфері безпеки. Він упевнений, що така машина матиме неймовірні обчислювальні можливості, за рахунок чого її інтелект дуже швидко обжене людський. Згодом така система зможе вдосконалюватися самостійно, що, напевно, призведе до того, що людина втратить контроль над усвідомленим ШІ.

Одна з головних проблем, що існує у цій сфері, стосується того, що у науковій спільноті досі немає жодного єдиного визначення можливостей свідомого штучного інтелекту. Якщо спростити, що робить ШІ усвідомленим ШІ? Чи справді розмова, на кшталт діалогу між Лемойном і LaMDA, є ознакою того, що комп’ютер набув свідомості?

У Google вважають, що це не так. Лемойн вирішив зробити свої дослідження надбанням громадськості після того, як він спробував довести керівництву, що LaMDA набув свідомості. Коли в компанії його аргументи не прийняли, він вирушив до Судового комітету Палати представників. Таким чином він порушив свій контракт з Google, через що його відправили в оплачувану адміністративну відпустку.

У компанії пояснюють, що сучасний ШІ аналізує та використовує неймовірну кількість інформації, через що його поведінка дійсно може здатися «усвідомленою». Сам Лемойн у підсумку так і не зумів надати надійних доказів того, що LaMDA стала усвідомленою системою, однак він знову спровокував розмови про реальність втілення цього сценарію.

Наприклад, нещодавно ми писали про нейромережу DALL-E 2, яка вигадала свою секретну мову — насправді це виявилося особливістю того, як ШІ сприймає та кодує інформацію, щоб використовувати її надалі. Раніше багато обговорень викликав також генератор тексту GPT-3, який писав переконливі статті, сценарії для фільмів і навіть видав стовпчик, у якому переконує, що роботи не збираються поневолювати людей. Так-так, так ми й повірили.

Проте про усвідомленість ШІ говорити ще рано. Система може навчитися логічно відповідати на запитання, дискутувати про сенс життя або підказувати, як доглядати дитину — але якщо всі ці знання зібрані з Вікіпедії та коментарів у Фейсбуці, то цю машину не можна назвати свідомою.

ШІ не вміє дізнаватися, як улаштований світ, спостерігаючи за ним як немовлята та діти; він не розуміє логіки у побудові слів (натомість він використовує токени, щоб грамотно вибудовувати свою мову і «розуміти» слова); не розуміє, що існування світу не піддається певній логіці та прогнозуванню. Зрештою, зараз ШІ не вміє вчитися без людини — навіть якщо ми створюємо самонавчальну систему, саме людина стоїть на чолі цього процесу, прописуючи код, і людина може цей процес припинити.

Професор лінгвістики з Вашингтонського університету Емілі Бендер стверджує, що свій внесок у наше нерозуміння вносить і термінологія. Наприклад, ми часто говоримо про «навчання» ШІ, що створює аналогію з тим, як навчається людина. Однак нейромережі навчаються зовсім не так — вони, грубо кажучи, перелопачують величезну кількість тексту, щоб вибрати наступне слово у реченні.

Зараз у Мережі існує така кількість інформації, що ШІ не потрібно бути усвідомленим, щоб у людини, яка взаємодіє з ним, виникало відчуття свідомості у нейромережі.

«Наш розум дуже добре конструює реальність, яка не обов’язково відповідає тим фактам, які нам надають», — зазначає Маргарет Мітчелл, колишня співробітниця Google, яка також працювала над розробленням ШІ.

Незважаючи на те, що припущення Лемойна, ймовірно, було неправильним, воно вкотре порушило питання — чи справді нам потрібен свідомий ШІ? Одна справа філософствувати з нейромережею про сенс життя і права роботів, а зовсім інша — спробувати ужитися з потенційно небезпечною розумною формою життя, яка поступово усвідомлює свою перевагу над (до того часу) домінувальним видом.