Деякі вчені вважають, що штучний інтелект вже набув свідомості. Чи так це? Час починати хвилюватися?

Загалом штучний інтелект допомагає людству зробити великий крок уперед у своєму розвитку.

Сучасний ШІ добре працює з чітко поставленими завданнями, проте мистецтво проводити паралелі та знаходити аналогії поки що йому недоступне. Ранній розвиток технології стосувався виключно програмування правил поведінки та логіки. Тепер же багато вчених працюють над «олюдненням» ШІ. Наприклад, нещодавно ми писали про команду дослідників, яка хоче навчити штучний інтелект уявляти і вигадувати. Це має стати першим і важливим кроком до свідомого штучного інтелекту — такий собі золотий Грааль у сфері машинного навчання.

Вчені впевнені — коли машини дивитимуться на світ таким чином, ми матимемо унікальну нагоду передбачати майбутні події або аналізувати те, що вже сталося. Завдяки можливості проводити аналогії, зіставляти факти, а також аналізувати неймовірну кількість інформації, ШІ допоможе людству приймати правильні рішення в різних напрямах — від політики та збереження клімату до вивчення медицини та космосу.

Проте далеко не всі дослідники вважають, що настільки просунутий ШІ стане нашим найкращим другом. Наприклад, колишній директор Google Ерік Шмідт порівняв штучний інтелект з ядерною зброєю, оскільки далеко не всі будуть використовувати його можливості на благо цивілізації.

Восени 2021 року група вчених провела дослідження з метою з’ясувати, чи зможе людство якимось чином контролювати надрозумний ШІ. Відповідь невтішна: ймовірно, ми втратимо контроль над його розвитком і незабаром доля людей залежатиме виключно від «бажань» ШІ. Тому вже зараз важливо розуміти, чого ми хочемо від цієї сфери та як ми можемо обмежувати розвинені нейромережі майбутнього.

Однією з провідних дослідницьких компаній у сфері ШІ є OpenAI, яку заснував 2015 року Ілон Маск разом із програмістом та інвестором Семом Альтманом, та комп’ютерним ученим Іллею Суцкевером. У 2019 році Маск покинув проект, оскільки не був згоден з напрямком, у якому рухалася компанія — замість того, щоб, як і було заявлено, працювати над попередженням ризиків у роботі з ШІ, дослідники почали все активніше розробляти власний ШІ, намагаючись зробити його дедалі кращим. До речі, Маск упевнений, що небезпека, яку несе за собою неконтрольований штучний інтелект, набагато вища, ніж ядерна війна.

Суцкевер, який зараз є головним науковим співробітником OpenAI, нещодавно підлив оливи у вогонь обговорень про можливість ШІ мати свідомість.

«Можливо, існуючі великі нейронні мережі можуть бути трохи усвідомленими», — написав він у Twitter. Не зовсім зрозуміло, що він мав на увазі, оскільки через десятиліття різних досліджень вчені досі впевнені, що сучасні технології не здатні дати ШІ свідомість. Проте Суцкевер стоїть на чолі однієї з найпросунутіших компаній, які займаються цим питанням, а тому, можливо, це був своєрідний тизер якоїсь нової розробки.

Чимало вчених, які працюють у сфері ШІ, втім, обурилися такими коментарями Суцкевера, назвавши їх спробою пропіаритися. «Штучний інтелект не має свідомості, однак схоже, що найважливіше тут — це хайп», — написав експерт із глибокого навчання Валентино Зокка.

Дослідник з Університету Південного Уельсу, Тобі Уолш, зазначив, що такі повідомлення тільки нагнітають і без того розжарену ситуацію навколо дослідження можливостей штучного інтелекту: «Щоразу, коли з’являються такі спекулятивні коментарі, потрібно не один місяць, щоб розмова повернулася до реалістичніших можливостей загрозам, які йдуть від ШІ», — зазначає він.

Багато експертів зазначають, що у науковій спільноті досі немає жодного єдиного визначення можливостей свідомого штучного інтелекту. Якщо спростити, що робить ШІ усвідомленим ШІ? Саме на цю прогалину вказав Леон Дерчинскі, ад’юнкт-професор Копенгагенського університету інформаційних технологій: «Можливо, навколо Сонця обертається чайник, який застряг десь між Землею та Марсом. Це звучить правдоподібніше, ніж припущення Іллі, бо ми розуміємо, що таке орбіта і чудово знаємо, що є чайником», — жартує вчений.

Більшість вчених дивиться на ситуацію реалістично. Ба більше, вони не працюють у компаніях, які потребують постійних інвестицій (їх залучення — це єдиний більш-менш логічний спосіб пояснити гучні заяви Суцкевера). Тому дослідники, які дивляться на ситуацію реалістичніше, впевнені, що можливої появи справді свідомого ШІ нам доведеться чекати ще багато років — до того ж не факт, що вчені взагалі колись зможуть досягти цього.

Крім гучної заяви та гучної реакції спільноти Суцкевер не надав жодного пояснення своїм словам, зате прикував до своєї персони та OpenAI ще більше уваги. Можливо, в цьому і була мета вченого, проте наскільки це допоможе людству оцінити можливість створення усвідомленого ШІ, а також усі ризики та потенційні вигоди від такої розробки? Питання риторичне.