Некоторые ученые считают, что искусственный интеллект уже обрел сознание. Так ли это? Пора начинать волноваться?

В общем, искусственный интеллект помогает человечеству сделать большой шаг вперед в своем развитии.

Современный ИИ хорошо работает с четко поставленными задачами, однако искусство проводить параллели и находить аналогии пока что ему недоступно. Раннее развитие технологии касалось исключительно программирования правил поведения и логики. Теперь же многие ученые работают над «очеловечиванием» ИИ. К примеру, недавно мы писали о команде исследователей, которая хочет обучить искусственный интеллект представлять и придумывать. Это должно стать первым и важным шагом к сознательному искусственному интеллекту — такой-себе золотой Грааль в сфере машинного обучения.

Ученые уверены — когда машины будут смотреть на мир таким образом, мы получим уникальную возможность предугадывать будущие события или анализировать то, что уже случилось. Благодаря возможности проводить аналогии, сопоставлять факты, а также анализировать невероятное количество информации, ИИ поможет человечеству принимать правильные решения в совершенно разных направлениях — от политики и сохранения климата до изучения медицины и космоса.

Тем не менее, далеко не все исследователи считают, что настолько продвинутый ИИ станет нашим лучшим другом. К примеру, бывший директор Google Эрик Шмидт сравнил искусственный интеллект с ядерным оружием, поскольку далеко не все будут использовать его возможности во благо цивилизации.

Осенью 2021 года группа ученых провела исследование с целью выяснить, сможет ли человечество каким-то образом контролировать сверхразумный ИИ. Ответ неутешителен: скорее всего, мы потеряем контроль над его развитием и вскоре судьба людей будет зависеть исключительно от «желаний» ИИ. Поэтому уже сейчас важно понимать, чего мы хотим от этой сферы и как мы можем ограничивать развитые нейросети будущего.

Одной из ведущих исследовательских компаний в сфере ИИ является OpenAI, основанная в 2015 году Илоном Маском вместе с программистом и инвестором Сэмом Альтманом, и компьютерным ученым Ильей Суцкевером. В 2019 году Маск покинул проект, поскольку не был согласен с направлением, в котором двигалась компания — вместо того, чтобы, как и было заявлено, работать над предупреждением рисков в работе с ИИ, исследователи начали все активнее разрабатывать собственный ИИ, пытаясь сделать его все лучше и лучше. К слову, Маск уверен, что опасность, которую несет за собой неконтролируемый искусственный интеллект, намного выше, чем ядерная война.

Суцкевер, который сейчас является главным научным сотрудником OpenAI, недавно подлил масла в огонь обсуждений о возможности ИИ обладать сознанием.

«Возможно, существующие большие нейронные сети могут быть немного осознанными», — написал он в Twitter. Не совсем понятно, что он имел ввиду, посколько спустя десятилетия различных исследований ученые до сих пор уверены, что современные технологии не способны дать ИИ сознание. Тем не менее, Суцкевер стоит во главе одной из самых продвинутых компаний, которые занимаются этим вопросом, а потому, возможно, это был своеобразный тизер какой-нибудь новой разработки.

Многие ученые, работающие в сфере ИИ, тем не менее, возмутились такими комментариями Суцкевера, назвав их попыткой пропиариться. «Искусственный интеллект не обладает сознанием, однако похоже, что самое важное здесь — это хайп», — написал эксперт по глубокому обучению Валентино Зокка.

Исследователь из Университета Южного Уэльса, Тоби Уолш, отметил, что подобные сообщения только нагнетают и без того накаленную обстановку вокруг исследования возможностей искусственного интеллекта: «Каждый раз, когда появляются такие спекулятивные комментарии, требуется не один месяц, чтобы разговор вернулся к более реалистичным возможностям и угрозам, исходящим от ИИ», — отмечает он.

Многие эксперты отмечают, что в научном сообществе до сих пор нет какого-то единого определения возможностей сознательного искусственного интеллекта. Если упростить, что делает ИИ осознанным ИИ? Именно на этот пробел указал Леон Дерчински, адъюнкт-профессор Копенгагенского университета информационных технологий: «Возможно, вокруг Солнца вращается чайник, застрявший де-то между Землей и Марсом. Это звучит правдоподобнее, чем предположение Ильи, потому что мы понимаем, что такое орбита и прекрасно знаем, что представляет из себя чайник», — шутит ученый.

Большинство ученых смотрит на ситуацию реалистично. Более того, они не работают в компаниях, которые требуют постоянных инвестиций (их привлечение — это единственный более-менее логичный способ объяснить громогласные заявления Суцкевера). Поэтому исследователи, которые смотрят на ситуацию более реалистично, уверены, что возможного появления действительно сознательного ИИ нам придется ждать еще долгие годы — причем не факт, что ученые вообще когда-нибудь сумеют добиться этого.

Кроме громогласного заявления и громкой реакции сообщества Суцкевер не предоставил никакого объяснения своим словам, зато приковал к своей персоне и OpenAI еще больше внимания. Возможно, в этом и была цель ученого, однако насколько это поможет человечеству оценить возможность создания осознанного ИИ, а также все риски и потенциальные выгоды от такой разработки? Вопрос риторический.