Кляті роботи. Як розвиток штучного інтелекту може призвести до культурного апокаліпсиса
IT-індустрія4 січня 2023, 20:02
Криза світової економічної системи, що почалася наприкінці XX — на початку XXI століття, стрімко наближає нас до епохи посткапіталізму. Цілком можливо, що ця епоха буде ще сильніше орієнтована на споживання, максимізацію прибутку та обмеження доступу до засобів виробництва.
Сучасні технології не тільки дають можливість замінити людську працю, а й нав’язують суспільству певні моделі поведінки. Раніше NV писав, як штучний інтелект (ШІ) ставить під загрозу авторське право та інші форми захисту контенту від плагіату, створює нові морально-етичні проблеми, а також посилює стереотипи.
Так звані інструменти AIGC, які поступово впроваджуються в пошукові системи, онлайн-комерцію та цифрові послуги всіх видів, можуть остаточно позбавити користувачів критичного мислення.
Такої думки дійшов тайванський підприємець, фахівець з машинного навчання та ШІ Лі Кайфу, який працював на керівних посадах в Apple, SGI, Microsoft і Google.
Нещодавно Кайфу виступив у рамках панелі про розвиток сильного ШІ на платформі дослідницької компанії Montreal.AI. Будучи одним із ключових тайванських інвесторів в IT-індустрію та ШІ-технології, у своєму виступі Лі Кайфу наголосив на потенційних загрозах сучасних розробок у цьому напрямі.
Передплатіть NV Преміум та читайте без обмежень
Нам необхідна ваша підтримка, щоб займатися якісною журналістикою
Апокаліпсис дезінформації
П’ять років тому Кайфу заявляв, що будь-який ШІ ніколи не зможе замінити людину в сенсі творчості чи емпатії.
Сьогодні ж підприємець упевнений, що великі компанії, як-от Amazon, Google, Facebook та інші, не зможуть встояти перед використанням нових систем AIGC, які дозволять їм створювати таргетований контент для кожного конкретного користувача.
«Людство на шляху до прірви AIGC, і не видно способу відвернути.
Сенсаційне звернення ШІ-гуру Китаю Лі Кайфу до світової спільноти розробників ШІ. У 2023 році світ зіткнеться з серйозішим ризиком, ніж ризики ядерної війни, голоду або пандемії. Це ризик невідмінності правди від брехні, як для індивідів, так і для соціумів будь-яких масштабів", цитує виступ Кайфу колишній топменеджер IBM Сергій Карелов.
Серед ключових небезпек розвитку систем сильного ШІ, зокрема AIGC, Кайфу виділяє колосальний зиск не тільки для компаній-техногігантів, а й для держав, які зможуть використати подібні технології в політичних цілях.
Згодом це може призвести до того, що нові інструменти ШІ зможуть схиляти користувачів до «вибору, рішень чи дій», вигідним для власників цих інструментів.
«Здійснюючи будь-який вибір, рішення чи дію в онлайні, люди не відрізнятимуть правду від брехні: чи діють вони за своєю волею та власним вибором, чи є об'єктом маніпуляцій зацікавлених осіб, які втюхують їм ті чи інші товари, послуги, ідеї, судження
За словами Лі Кайфу, високий ризик матеріалізації цієї небезпеки полягає в тому, що люди поки що не мають інструментів для контролю технологій сильного ШІ. Тому підприємець закликає всіх розробників подібних систем знайти способи мінімізації ризику потенційно небезпечних технологій, перш ніж розпочинати їх масове впровадження.
Проблема сильного ШІ
Як писав NV, сильним ШІ називають системи, які можуть не тільки опрацьовувати інформацію, а й розуміти її сенс. Таким ШІ найближчим часом може стати будь-який розумний голосовий помічник на кшталт Apple Siri, який навчиться спілкуватися з користувачами на загальні теми та почне імітувати міркування — вона була б сильним ШІ.
Частково такий ШІ вже існує у вигляді «розумних чат-ботів», включно з популярним сьогодні інструментом ChatGPT.
Вважається, що відрізнити сильний ШІ від слабкого можна за допомогою тесту Тьюрінга: англійський математик Алан Тьюрінг припустив, що якщо людина не може відрізнити спілкування з живою людиною від спілкування з ШІ — такий ШІ вважається сильним.
Учасники конференції з ШІ-безпеки в Пуерто-Ріко в 2015 прогнозували, що сильний ІІ може з’явитися вже в 2045 році. Деякі розробники, включаючи Ілона Маска та його нового підлеглого у Twitter Джорджа Хотца, вважають, що ми ніколи не зможемо створити абсолютну форму ШІ, оскільки людство спочатку є частиною комп’ютерної симуляції.
«Дальший розвиток ШІ, який зазнає бурхливого зростання, з одного боку, потребує нових рішень. З іншого боку, загострення політичної, економічної та військової конфронтації між провідними гравцями світової арени робить їх ще залежнішими від технологічної переваги. В іншому випадку вони можуть швидко відстати. Зрештою, перспективна гуманізація ШІ можлива лише після радикальної стабілізації міжнародної обстановки», — пише кандидат технічних наук, засновник платформ Aigents, Architect і SingularityNET Антон Колонін.
Старший викладач цифрової етики в Центрі штучного інтелекту та Мельбурнського університету доктор Саймон Коглан натомість впевнений, що створення просунутого ШІ стане головним трендом 2023 року.
За його словами, поточні ШІ-моделі можуть генерувати безглузді, нелогічні чи хибні результати, які водночас виглядають абсолютно переконливо.
«Хто знає, що ШІ приготував нам цього року. Але судячи зі швидкості останніх подій, на нас можуть чекати деякі сюрпризи. ШІ може продовжувати нас вражати. Але не чекайте на появу по-справжньому творчого ШІ, який замінить митців чи вчених. Як і не чекайте на появу цілком правдивих та неупереджених ШІ, якій можна довіряти», — резюмує Коглан.