Постоянная слежка и ксенотрансплантация. Какая новая технология является самой опасной для человечества?

Издание Gizmodo пообщалось с экспертами различных направлений по поводу технологий, которые пугают их больше всего.

Адъюнкт-профессор права из Фордхэмского университета Зефич Тичаут считает, что постоянная слежка за рабочим местом «переворачивает и без того ужасную динамику власти между работодателем и работником, позволяя работодателям обращаться с работниками как с морскими свинками». Используя эту технологию, работодатель сможет получать огромное количество информации о людях, которые на него работают, используя ее на свое усмотрение, но, в первую очередь, для повышения работоспособности за меньшую плату.

Различные исследования азартных игр дали казино информацию, как можно использовать слабости каждого из типа игроков, чтобы мотивировать их играть еще больше. Слежка за сотрудниками позволит работодателям получить в свое распоряжение похожее оружие, если развитие этой технологии не подавить в зародыше.

Мийкл Литтман, занимающий должность компьютерных наук в Брауновском университете, предупреждает об опасности искусственного интеллекта (ИИ) и слепой веры в его точную работу. Конечно, нейросети помогают нам обрабатывать информацию и принимать правильные решения. Однако они не смогут решить всех проблем, как это сейчас пытаются представить многие — якобы ИИ не обладает эмоциями, а потому отталкивается исключительно от заложенной в него логики.

Пока у нас не будет абсолютной прозрачности в отношении алгоритмов, по которым работает та или иная система, мы не имеет права доверять ей принимать критические решения — к примеру, системы ИИ уже активно используются для распространения дизеиформации и фейков. Прямо сейчас нейросети играют важную роль в принятии многих медицинских решений вроде поставок вакцин или органов для трансплантации. Получается, прямо сейчас чьюто жизнь или смерть определяет ИИ.

В современном мире важно минимизировать все опасности автоматизации, отмечает Литтман. Для этого логика работа ИИ, принимающего определенные решения, должна быть открытой и понятной для всех; в то же время люди не должны снимать с себя ответственность, полностью доверяя нейросети.

Профессор эпидемиологии Гарвардского университета Дэвид Джонс считает, что нам не стоит заигрывать с технологией распознавания лиц в системах видеонаблюдения. Конечно, у нее есть определенные преимущества, однако практически все они касаются мелких удобств, которые лишь немного повысят ваш комфорт (вместо технологии PayPass вы сможете оплатить покупку, посмотрев в камеру; не нужно доставать паспорт при проверке документов в аэропорту). Да, многие правительства оправдывают использование технологии повышенной безопасностью — это, пожалуй, единственный реальный плюс от распознавания лиц, который, к сожалению, не так уж сложно обойти, особенно во времена пандемии и повсеместного распространения масок.

Однако негативных последствий применения этой технологии намного больше. Самый простой пример — Big Brother is watching you. Авторитарные правительства получат еще одну возможность укрепить свои позиции в стране, отслеживая всех неугодных граждан.

Даже в более демократичных странах полная потеря конфиденциальности и анонимности кажется не самой правильной ценой за возможность два раза в год не искать паспорт в кармане — нет никаких гарантий, что все люди, у которых будет доступ к камерам, будут действовать исключительно по рабочим инструкциям. Всегда будет кто-то, кто может следить буквально за каждым твоим шагом — от одной мысли об этом становится не по себе. Даже если вам нечего скрывать.

А вот Райан Кало, профессор права Вашингтонского университета, предупреждает об опасности квантовых вычислений. Квантовые компютеры будут обладать немыслимой мощью по сравнению с современной даже самой мощной техникой. Это позволит им обходить современную защиту за считанные мгновения, что чревато падением буквально всех банковских, правительственных, социальных и других систем.

Мы в подробностях рассказывали об опасности этих технологий в этом материале, а здесь объясняли, как эксперты по кибербезопасности работают над решением этой страшной квантовой проблемы будущего.

Синтетическая биология стала вариантом, который предлагает Эми Уэбб, основательница и генеральный директор американского Института будущего. Это относительно новое направление биологии, которое объединяет в себе ИИ, инженерию, генетику и химию для создания биологических систем с определенными свойствами. Таким образом, вскоре мы сможем не только читать и редактировать ДНК, но и писать его практически с нуля. Фактически, мы сможем программировать поведение и свойства живых созданий.

Казалось бы, такие перспективы и поле для исследований — что же может пойти не так? Уэбб предполагает, что при должном развитии этого направления у человечства появится возможность написать с нуля геном любого вируса. И если позитивом в таком случае может быть создание полезного вируса для лечения рака или других сложных заболеваний, то негативные перспективы конкретно этого применения новых технологий вырисовываются сами собой.

«Что делает синтетическую биологию самой опасной новой технологией, так это не наука, а мы, люди. Нам нужно будет бросить вызов нашим ментальным моделям, задавать трудные вопросы и вести рациональные дискуссии о происхождении жизни, иначе мы создадим риск и упустим возможности… Мы находимся на пороге новой захватывающей индустриальной эволюции», — пишет Уэбб.

Доцент Центра биоэтики и гуманитарных наук Медицинского университета SUNY Upstate Сид Джонсон считает опасным развитие ксенотрансплантации. В основе лежит хорошая идея — помочь людям, которым иными способами помочь невозможно. Недавно ученым даже удалось успешно пересадить почку свиньи человеку, чтобы та прижилась в новом организме в течении нескольких дней.

Однако Джонсон предупреждает: «Эволюционная и генетическая близость нечеловеческих приматов к человеку увеличивает риск зоонозной инфекции, когда болезнь переходит от одного вида к другому». И даже приводит пример вируса Непах, передавшийся от свиней, который вызвал вспышку вирусного энцефалита в Малайзии в 1998 и 1999 годах. В результате погибло более ста человек, а более ста миллиона свиней были забиты.

У всех нас есть еще один пример болезни, которая несколько лет назад вызвала эпидемию по всему — ковид, который передался людям от летучих мышей. Со временем SARS-CoV-2 — вирус, вызывающий заболевание, — был обнаружен у собак, котов, горилл, выдр, норок и оленей.

«Риск распространения нового инфекционного заболевания в мире меняет перспективы ксенотрансплантации и делает ее чрезвычайно опасной развивающейся технологией. В худшем случае — новой глобальной пандемии — последствия могут быть разрушительными и стоить миллионов жизней», — пишет Джонсон.

Элизабет Хильдт, профессор философии Иллинойского технологического института, не стала выделять какую-то конкретную технологию, а скорее призывает более взвешенно подходить к контролю и оценке каждой новой технологии. Важно, чтобы все новые разработки были прозрачными, то есть люди понимали, как она работает и что она может принести миру.

Как следствие, она предупреждает об эмоциональной вовлеченности, которую могут испытывать люди по отношению к технологиям. Как пример Хильдт приводит искусственный интеллект, который разрабатывают таким образом, чтобы они якобы испытывали «эмоции» при взаимодействии с людьми, хотя на самом деле машина сама по себе, конечно же, не может испытывать никаких эмоций.

«Это может привести к одностороннему эмоциональному вовлечению людей, а также к взаимодействию человека и технологии, в котором доминирует не рациональность, а эмоциональные факторы. В этом типе взаимодействия люди являются более уязвимым партнером», — пишет профессор.