Проклятые роботы. Как развитие искусственного интеллекта может привести к культурному апокалипсису

Апокалипсис дезинформации

Пять лет назад Кайфу заявлял, что любой ИИ никогда не сможет заменить человека в плане творчества или эмпатии.

Сегодня же предприниматель уверен, что крупные компании, такие как Amazon, Google, Facebook и другие, не смогут устоять перед использованием новых систем AIGC, которые позволят им создавать таргетированный контент для каждого конкретного пользователя.

«Человечество на пути к пропасти AIGC, и не видно способа отвернуть.

Сенсационное обращение ИИ-гуру Китая Ли Кайфу к мировому сообществу разработчиков ИИ. В 2023 мир столкнется с риском более серьезным, чем риски ядерной войны, голода или пандемии. Это риск неотличимости правды от лжи, как для индивидов, так и для социумов любых масштабов", 一 цитирует выступление Кайфу бывший топ-менеджер IBM Сергей Карелов.

Среди ключевых опасностей развития систем сильного ИИ, включая AIGC, Кайфу выделяет колоссальную выгоду не только для компаний-техногигантов, но и для государств, которые смогут использовать подобные технологии в политических целях.

Впоследствии это может привести к тому, что новые инструменты ИИ смогут склонять пользователей к «выбору, решениям или действиям», выгодным для владельцев этих инструментов.

«Осуществляя любой выбор, решение или действие в онлайне, люди не будут различать правду от лжи: действуют ли они по своей воле и собственному выбору или являются объектом манипуляций заинтересованных лиц, втюхивающих им те или иные товары, услуги, идеи, суждения и т. д. И никакие полномочия правительств не смогут подобное предотвратить уже известными методами», 一 объясняет Карелов.

По словам Ли Кайфу, высокий риск материализации этой опасности заключается в том, что у людей пока нет инструментов для контроля технологий сильного ИИ. Поэтому предприниматель призывает всех разработчиков подобных систем найти способы минимизации риска потенциально опасных технологий прежде, чем начинать их массовое внедрение.

Проблема сильного ИИ

Как уже писал NV, сильным ИИ называют системы, которые могут не только обрабатывать информацию, но и понимать ее смысл. Таким ИИ в ближайшее время может стать любой умный голосовой помощник вроде Apple Siri, который научится общаться с пользователями на общие темы и начнет имитировать рассуждения — она была бы сильным ИИ.

Частично, такой ИИ уже существует в виде «умных чат-ботов», включая популярный сегодня инструмент ChatGPT.

Считается, что отличить сильный ИИ от слабого можно с помощью теста Тьюринга: английский математик Алан Тьюринг предположил, что если человек не может отличить общение с живым человеком от общения с ИИ — такой ИИ считается сильным.

Участники конференции по ИИ-безопасности в Пуэрто-Рико в 2015-м прогнозировали, что сильный ИИ может появиться уже в 2045 году. Некоторые разработчики, включая Илона Маска и его нового подчиненного в Twitter Джорджа Хотца, считают, что мы никогда не сможем создать абсолютную форму ИИ, поскольку человечество изначально является частью компьютерной симуляции.

«Дальнейшее развитие ИИ, претерпевающее бурный рост, с одной стороны, требует новых решений. С другой стороны, обострение политической, экономической и военной конфронтации между ведущими игроками мировой арены делает их еще более зависимыми от технологического превосходства. В противном случае они могут быстро отстать. Наконец, перспективная гуманизация ИИ возможна только после радикальной стабилизации международной обстановки», — пишет кандидат технических наук, основатель платформ Aigents, Architect и SingularityNET Антон Колонин.

Старший преподаватель цифровой этики в Центре искусственного интеллекта и Мельбурнского университета доктор Саймон Коглан, в свою очередь, уверен, что создание продвинутого ИИ станет главным трендом 2023 года.

По его словам, текущие ИИ-модели могут генерировать бессмысленные, нелогичные или ложные результаты, которые при этом выглядят абсолютно убедительно.

«Кто знает, что ИИ приготовил нам в этом году. Но судя по скорости последних событий, нас могут ждать некоторые сюрпризы. ИИ может продолжать нас впечатлять. Но не ждите появления по-настоящему творческого ИИ, который заменит художников или ученых. Как и не ждите появления полностью правдивых и беспристрастных ИИ, которому можно доверять», — резюмирует Коглан.