Чого ми не знаємо про штучний інтелект, чи справді його треба боятися та як ця технологія буде розвиватися далі?

4 січня, 12:40
Ми й досі мало розуміємо, як працює, чим загрожує та які ліміти має штучний інтелект (Фото:pogonici / depositphotos)

Ми й досі мало розуміємо, як працює, чим загрожує та які ліміти має штучний інтелект (Фото:pogonici / depositphotos)

Ще нещодавно ми і не підозрювали, що ера нейромереж настільки близька до реальності. Тепер, здається, вона наблизилась до нас упритул, і вже дуже скоро сильно вплине на нашу роботу та життя загалом.

Прикладів, які це доводять, є декілька. Нейромережі Dall-E 2, Midjourney та Stable Diffusion, які за кілька секунд видають неймовірні малюнки за запитом. Судова система Китаю, де ШІ приймає рішення та виносить вироки, а також наукові відкриття, які вчені роблять за допомогою нейромереж — це нова реальність, до якої нам треба звикати.

Відео дня

Водночас почалася нова серія старого серіалу про те, що ШІ набув свідомості та навіть вигадав свою мову. А під кінець року нас порадувала ще одна мовна модель — оновлена GPT-3.5 від OpenAI, яка не тільки створює ну дуже якісні тексти, але й дійсно може замінити деяких джунів в айті-компаніях, копірайтерів і навіть Google.

Проте ці досягнення нейромереж не варто переоцінювати. Принаймні, так стверджує 45-річна Єджін Чой, яка цього року отримала Стипендію Макартура ($800 тис.) за свої новаторські дослідження розвитку ШІ. За її словами, зараз навколо цієї сфери з’явилося багато хайпу та страхів.

НВ вибрав та переказує найголовніше з розмов вченої з журналістами видання The New York Times.

Про свідомий штучний інтелект

Люди роблять поспішні узагальнення щодо штучного інтелекту. «О, GPT-3 може написати чудову статтю для блогу. Можливо, GPT-4 буде редактором журналу New York Times?» Я не думаю, що це реально, адже він [ШІ] не має розуміння політичних подій, а тому не зможе написати щось актуальне.

Завжди є люди, які вірять у щось, позбавлене сенсу, — карти таро, теорії змови, свідомий штучний інтелект.

Можливо, колись я зміню свою думку, проте зараз я дуже скептично налаштована [щодо можливості створення свідомого штучного інтелекту]. Я бачу, що у багатьох людей може скластися враження, що це вже дуже близько, проте коли ви працюєте настільки близько до ШІ, ви бачите багато обмежень.

Люди схильні вірити, що якщо штучний інтелект може робити щось розумне, як-от перекладати або грати в шахи, то він має дуже легко справлятися з більш легкими завданнями. Правда в тому, що те, що легко для машин, може бути складним для людей — і навпаки.

Ви здивуєтеся, як штучному інтелекту важко осягнути елементарний здоровий глузд. Для нього це як для нас темна матерія. Ми знаємо, що вона існує, проте не знаємо, чим вона являється. Це невисловлене, неявне знання, яке ми маємо. Це настільки очевидно, що ми часто про це не говоримо. Наприклад, скільки очей у коня? Два. Ми про це не говоримо, але всі це знають.

Дозвольте мені навести вам інший приклад: ми з вами знаємо, що птахи можуть літати, і ми знаємо, що пінгвіни взагалі не можуть цього робити. Дослідники штучного інтелекту подумали, що ми можемо це закодувати: птахи, окрім пінгвінів, зазвичай літають. Проте існують винятки: новонароджені, вкриті нафтою, поранені та ті, що сидять у клітці, — багато птахів не можуть літати. Винятки не є чимось унікальним, і ми з вами можемо згадати про них, навіть якщо нам ніхто про це не казав. Проте для ШІ це важко.

poster
Дайджест головних новин
Безкоштовна email-розсилка лише відбірних матеріалів від редакторів NV
Розсилка відправляється з понеділка по п'ятницю

Про GPT 3.5

Я — велика шанувальниця цієї технології, проте в той же час відчуваю, що деякі люди роблять її більшою, ніж вона є насправді. Дехто каже, що мовна модель GPT могла би пройти Тест Тюрінга. Я так не думаю. Можливо, це так виглядає після одного вражаючого прикладу роботи GPT. Проте, якщо подивитися на середню продуктивність цієї нейромережі, можна побачити, що їй ще дуже далеко до людського інтелекту.

Є дуже багато завдань, з якими штучному інтелекту впоратися важко. Проте люди роблять узагальнення на основі кількох найкращих прикладів його роботи: якщо іноді йому вдається щось дуже добре, людям здається, що повний штучний інтелект вже близько. Немає ніяких підстав так вважати.

Чи можна навчити ШІ приймати моральні рішення?

Ми маємо навчити ШІ, що майже кожне правило має свій виняток. Є випадки, коли це проявляється більш чітко, а є — протилежні ситуації. Важливо, щоб він розумів, що невизначенність теж може існувати — як, наприклад, різні думки щодо певного питання.

Мають бути певні моральні правила, проте навіть у них можуть бути винятки. Наприклад — не можна вбивати людей. Проте що робити, якщо це убивство з милосердя? Як бути у такому випадку?

Як працює мовна модель штучного інтелекту? Вона передбачає, яке слово буде наступним, враховуючи минулий контекст. Немає очевидної істини, яке слово має бути наступним — майже завжди існує кілька варіантів. За допомогою статистичного розподілу ШІ може підібрати найкраще слово — мені здається, що таким чином він зможе приймати і певні моральні рішення.

Завджди існуватиме хтось, хто захоче використати ШІ для своїх цілей. Ми дуже хочемо досягти того, щоб штучний інтелект міг приймати етичні рішення, які можуть бути нейтральними або навіть суперечити потенційно неетичним цілям його розробників.

Плюралізм думок для ШІ — чи можливо це?

Попереду ще багато роботи, і я вважаю, що якщо ми зможемо якимось чином втілити плюралізм цінностей для ШІ, це буде справді захоплююча задача. Щоб цінності штучного інтелекту були не однією систематичною річчю, а скоріше чимось, що має багатовимірність — як серед групи людей.

Проте у мене немає однозначної відповіді, як це можна втілити. Але очевидно, що ШІ має поважати різноманістність людей та їхніх цінностей, а не нав’язувати всім певну «нормалізовану» моральну основу. Він має розуміти людські цінності в широкому сенсі, наприклад, не генерувати потенційно расистські чи гомофобні заяви. Проте ШІ не має бути універсальним авторитетом у будь-чому — він має розуміти різні точки зору та їхні розбіжності, щоб уникати очевидно поганих випадків.

Показати ще новини
Радіо NV
X