Сможем ли мы контролировать сверхразумный искусственный интеллект? Ответ вам не понравится

Тем не менее, существует мнение, что системы искусственного интеллекта развиваются слишком быстро — и даже несмотря на всеобщую кооперацию, однажды все может выйти из-под контроля.

«Я мог бы предположить, что через сотни лет практически не останется областей, в которых ИИ не сможет конкурировать с человеком», — говорит Эрик Шмидт, бывший глава Google, который после ухода из компании сосредоточился на изучении ИИ. Он уверен — в ближайшем будущем нейросети не сумеют заменить людей, однако через некоторое время это будет вполне реально. Особенно если вспомнить о том, что некоторые исследователи уже сейчас пытаются наделить роботов человеческими когнитивными способностями, чтобы те могли проводить аналогии и развивать «фантазию».

Навевает пессимизма и Илон Маск, который уверен, что опасность, которую несет за собой некотнтролируемый искусственный интеллект, намного выше, чем ядерная война.

Главная опасность искусственного интеллекта не в том, что он вдруг озлобится и решит уничтожить человечество. Работа компьютера — это в первую очередь логика и эргономика. И если система решит, что человек так или иначе понижает эффективность решения поставленной перед ней задачи, никто не представляет, к чему это может привести.

Недавно международная команда ученых провела исследование с целью выяснить, сможет ли человечество каким-то образом контролировать сверхразумный ИИ. И ответ вас вряд ли порадует.

Главная проблема нашей потенциальной подготовки к работе с таким искусственным интеллектом — это то, что нам необходимо симулировать взаимодействие с ним. Однако даже подобная симуляция выходит за рамки нашего понимания, ведь мы без понятия, как этот высокоразвитый ИИ будет вести себя в той или иной ситуации, а потому создание точной модели практически невоможно. Если компьютерная система работает на уровне, превышающем возможности наших программистов, мы больше не можем устанавливать ограничения, пишет ScienceAlert.

Если мы говорим о сверхразвитом ИИ — это машина, которая сможет удерживать в своей памяти работу всех компьютерных программ — в том числе и тех, которые написаны, чтобы ее остановить. Фактически это означает, что такой искусственный интеллект сможет или остановить выполнение этой программы или найти в ней баг, который позволит обойти выполнение ее задачи.

Этот ИИ будет обладать передовыми вычислительными возможностями и интеллектом выше человеческого уровня. Система сможет совершенствоваться без участия человека — уже даже этот фактор означает потерю контроля над ней. Более того, может наступить момент, когда скорость развития ИИ станет настолько высокой, что человеческий разум в принципе не сможет совладать с таким количеством знаний и тем, чтобы их усвоить.

Одной из альтернатив может быть отключение такой системы от интернета или определенных сетей, через которые она может нанести наибольший ущерб. Однако ученые отвергают эту возможность: во-первых, ИИ может просчитать вероятность своего отключения и «придумать» альтернативный план; во-вторых — какой вообще смысл создавать подобную мощную систему, чтобы затем ограничивать ее возможности?

Проблема заключается еще и в том, что мы в принципе не сможем уловить момент перехода ИИ из разряда «обычного» в «сверхразумное». Мы не представляем, как это выглядит, что этому поспособствует и как это контролировать. Поэтому важно уже сейчас определить, куда мы двигаемся, чего мы хотим от ИИ и как планируем следить за тем, чтобы он не переходил установленные человеком рамки.