«Маячить тінь зла». Ватикан попередив вірян про загрозу штучного інтелекту
Ватикан випустив схвалений Папою Франциском документ, у якому застерігає, що штучний інтелект може мати згубний вплив на взаємини між людьми, ринок праці, освіту і методи ведення війн.
Ватикан вважає, що штучний інтелект — це «джерело величезних можливостей, але також і глибоких ризиків». Про це йдеться у новому документі, призначеному для католицьких вірян, який Ватикан створив після пів року консультацій з різними експертами, в тому числі у галузі штучного інтелекту.
Церква виступає за те, що застосування штучного інтелекту повинно ґрунтуватися на етичних і моральних міркуваннях, і закликає до постійного нагляду за технологією. Серед вже актуальних негативних наслідків використання ШІ Ватикан згадує «шкідливе почуття ізоляції», яке спілкування з чат-ботами може принести дітям, та «трактування людських стосунків як транзакцій». У документі висловлюється занепокоєння, що ШІ може бути використаний для просування того, що Папа назвав «технократичною парадигмою». Йдеться про віру у те, що світові проблеми можна вирішити лише за допомогою технологічних засобів.
Ватикан також проти того, щоб ШІ та технологічний прогрес дедалі більше замінювали людську працю, бо це було б згубно для людства. Згідно з позицією церкви, ШІ не має зводити працівників до простих гвинтиків у машині, оскільки «гідність працівників і важливість зайнятості для економічного добробуту окремих осіб, сімей і суспільств».
У документі також повторюється занепокоєння щодо використання технології для створення дистанційно керованій зброї, яке сприяє «більш холодному і відстороненому підходу до безмірної трагедії війни». Окрему увагу звертають на загрозу поширення дезінформації.
«У всіх сферах, де людина покликана приймати рішення, тут також маячить тінь зла. Моральна оцінка цієї технології повинна враховувати те, як вона спрямовується і використовується. … Фейкові медіа, створені за допомогою ШІ, можуть поступово підірвати основи суспільства. Це питання потребує ретельного регулювання, оскільки дезінформація — особливо через контрольовані або підконтрольні ШІ ЗМІ - може поширюватися ненавмисно, підживлюючи політичну поляризацію і соціальні заворушення. Такий широко розповсюджений обман не є тривіальною справою; він завдає удару по суті людства, руйнуючи фундаментальну довіру, на якій побудовані суспільства», — йдеться в документі.
Документ був схвалений Папою Франциском, який неодноразово публічно звертався до теми штучного інтелекту. У зверненні до політичних, економічних і бізнес-лідерів на Всесвітньому економічному форумі в Давосі, Швейцарія, минулого тижня Франциск написав, що ШІ викликає «велике занепокоєння з приводу його впливу на роль людства». А на зустрічі G7 в Італії минулого року Франциск сказав світовим лідерам, що ШІ «являє собою справжню когнітивно-індустріальну революцію, яка сприятиме створенню нової соціальної системи, що характеризується складними епохальними перетвореннями».
