Постійне стеження та ксенотрансплантація. Яка нова технологія є найнебезпечнішою для людства?

Видання Gizmodo поспілкувалося з експертами різних напрямів з приводу технологій, які лякають їх найбільше.

Ад’юнкт-професор права з Фордхемського університету Зефіч Тічаут вважає, що постійне стеження за робочим місцем «перевертає і так жахливу динаміку влади між роботодавцем і працівником, дозволяючи роботодавцям поводитися з працівниками, як із морськими свинками». Застосовуючи цю технологію, роботодавець зможе отримувати величезну кількість інформації про людей, які на нього працюють, використовуючи її на власний розсуд, але насамперед для підвищення працездатності за меншу плату.

Різні дослідження азартних ігор дали казино інформацію, як можна використовувати слабкості кожного типу гравців, щоб мотивувати їх грати ще більше. Стеження за співробітниками дозволить роботодавцям отримати у своє розпорядження подібну зброю, якщо розвиток цієї технології не придушити в «ембріоні».

Мійкл Літтман, який обіймає посаду комп’ютерних наук у Браунівському університеті, попереджає про небезпеку штучного інтелекту (ІІ) і сліпої віри у його точну роботу. Звісно, нейромережі допомагають нам обробляти інформацію та приймати правильні рішення. Однак вони не зможуть вирішити всіх проблем, як це зараз намагаються багато хто уявити — нібито ІІ не має емоцій, а тому відштовхується виключно від закладеної в нього логіки.

Поки у нас не буде абсолютної прозорості щодо алгоритмів, за якими працює та чи інша система, ми не маємо права довіряти їй приймати критичні рішення — наприклад, системи ІІ вже активно використовуються для поширення дезінформації та фейків. Наразі нейромережі відіграють важливу роль у прийнятті багатьох медичних рішень на кшталт постачання вакцин або органів для трансплантації. Виходить, прямо зараз чиєсь життя чи смерть визначає ІІ.

У сучасному світі важливо мінімізувати всю небезпеку автоматизації, зазначає Літтман. Для цього логіка робота ІІ, який приймає певні рішення, має бути відкритою та зрозумілою для всіх; водночас люди не повинні знімати з себе відповідальність, повністю довіряючи нейромережі.

Професор епідеміології Гарвардського університету Девід Джонс вважає, що нам не варто загравати з технологією розпізнавання осіб у системах відеоспостереження. Звісно, вона має певні переваги, проте практично всі вони стосуються дрібних зручностей, які лише трохи підвищать ваш комфорт (замість технології PayPass ви зможете оплатити покупку, подивившись у камеру; не потрібно діставати паспорт під час перевірки документів в аеропорту). Так, багато урядів виправдовують використання технології підвищеною безпекою — це, мабуть, єдиний реальний плюс від розпізнавання осіб, який, на жаль, не так уже й складно оминути, особливо в часи пандемії та повсюдного поширення масок.

Проте негативних наслідків застосування цієї технології набагато більше. Найпростіший приклад — Big Brother is watching you. Авторитарні уряди матимуть ще одну можливість зміцнити свої позиції в країні, відстежуючи всіх неугодних громадян.

Навіть у більш демократичних країнах повна втрата конфіденційності та анонімності здається не найправильнішою ціною за можливість двічі на рік не шукати паспорта в кишені — немає жодних гарантій, що всі люди, які будуть мати доступ до камер, діятимуть виключно за робочими інструкціями. Завжди буде хтось, хто може стежити буквально за кожним твоїм кроком — від однієї думки про це стає не по собі. Навіть якщо вам нема чого приховувати.

А ось Райан Кало, професор права Вашингтонського університету, попереджає про небезпеку квантових обчислень. Квантові комп’ютери володітимуть немислимою міццю в порівнянні із сучасною найпотужнішою технікою. Це дозволить їм обходити сучасний захист за лічені миті, що загрожує падінням буквально всіх банківських, урядових, соціальних та інших систем.

Ми докладно розповідали про небезпеку цих технологій у цьому матеріалі, а тут пояснювали, як експерти з кібербезпеки працюють над вирішенням цієї страшної квантової проблеми майбутнього.

Синтетична біологія стала варіантом, який пропонує Емі Вебб, засновниця та генеральний директор американського Інституту майбутнього. Це відносно новий напрямок біології, який поєднує у собі ІІ, інженерію, генетику та хімію для створення біологічних систем з певними властивостями. Тому незабаром ми зможемо не лише читати та редагувати ДНК, а й писати його практично з нуля. Дійсно, ми зможемо програмувати поведінку та властивості живих створінь.

Здавалося б, такі перспективи та поле для досліджень — що може піти не так? Уебб припускає, що з належним розвитком цього напряму в людства з’явиться можливість написати з нуля геном будь-якого вірусу. І якщо позитивно. перспективою в такому разі може бути створення корисного вірусу для лікування раку або інших складних захворювань, то негативні перспективи цього застосування нових технологій вимальовуються самі собою.

«Що робить синтетичну біологію найнебезпечнішою новою технологією, так це не наука, а ми, люди. Нам потрібно буде кинути виклик нашим ментальним моделям, ставити важкі питання та вести раціональні дискусії про походження життя, інакше ми створимо ризик і проґавимо можливості… Ми знаходимося на порозі нової захоплюючої індустріальної еволюції», — пише Уебб.

Доцент Центру біоетики та гуманітарних наук Медичного університету SUNY Upstate Сід Джонсон вважає небезпечним розвиток ксенотрансплантації. В основі якої лежить хороша ідея допомогти людям, яким іншими способами зарадити неможливо. Нещодавно вченим навіть вдалося успішно пересадити нирку свині людині, щоб вона прижилася в новому організмі протягом декількох днів.

Проте Джонсон попереджає: «Еволюційна та генетична близькість нелюдських приматів до людини збільшує ризик зоонозної інфекції, коли хвороба переходить від одного виду до іншого». І навіть наводить приклад вірусу Непах, що передався від свиней, який викликав спалах вірусного енцефаліту в Малайзії у 1998 та 1999 роках. У результаті загинуло понад сто людей, а понад сто мільйонів свиней було забито.

Усі ми маємо ще один приклад хвороби, яка кілька років тому викликала епідемію по всьому — ковід, який передався людям від кажанів. Згодом SARS-CoV-2 — вірус, що викликає захворювання, — був виявлений у собак, котів, горил, видр, норок та оленів.

«Ризик поширення нового інфекційного захворювання у світі змінює перспективи ксенотрансплантації і робить її надзвичайно небезпечною технологією, що розвивається. У гіршому випадку — нової глобальної пандемії — наслідки можуть бути руйнівними та коштувати мільйони життів», — пише Джонсон.

Елізабет Хільдт, професор філософії Іллінойського технологічного інституту, не стала виділяти якусь конкретну технологію, а швидше закликає більш виважено підходити до контролю та оцінки кожної нової технології. Важливо, щоб нові розробки були прозорими, тобто люди розуміли, як вона працює і, що вона може принести світові.

У підсумку вона попереджає про емоційне залучення, яке можуть відчувати люди щодо технологій. Як приклад, Хільдт наводить штучний інтелект, який розробляють так, щоб вони нібито випробовували «емоції» при взаємодії з людьми, хоча насправді машина сама по собі, звичайно ж, не може відчувати жодних емоцій.

Це може призвести до одностороннього емоційного залучення людей, а також до взаємодії людини і технології, в якому домінує не раціональність, а емоційні фактори. У цьому типі взаємодії люди є вразливішим партнером", — пише професор.