Бежать или дружить? Инженер Google заявил, что искусственный интеллект обрел сознание

Их беседы показывают, что искусственный интеллект обладает способностью осознавать свое место в мире и размышлять о своем существовании.

Действительно ли это так?

Идея создания разумного и/или сознательного ИИ уже давно витает среди ученых. Многие считают ее святым Граалем, достижение которого поможет нашей цивилизации процветать и развиваться невообразимыми темпами, поскольку человеческий мозг будет усилен осознанным мозгом искусственного интеллекта. Многие считают, что будущее человечества напрямую зависит от того, насколько развитым будет ИИ, а потому все больше технологических компаний посвящают свою работу именно этой сфере.

Уже не первый год исследователи пытаются научить ИИ придумывать и проводить аналогии, а также экстраполировать — то есть находить базовые правила и закономерности, чтобы затем применять их к другим объектам.

С другой стороны, у этой идеи есть и критики: бывший директор Google Эрик Шмидт считает, что к идее осознанного ИИ нужно относиться с большой осторожностью, а его разработка может привести к большим проблемам в сфере безопасности. Он уверен, что такая машина будет обладать невероятными вычислительными возможностями, за счет чего ее интеллект очень быстро обгонит человеческий. Со временем такая система сможет совершенствоваться самостоятельно, что наверняка приведет к тому, что человек потеряет контроль над осознанным ИИ.

Одна из главных проблем, которая существует в этой сфере, касается того, что в научном сообществе до сих пор нет какого-то единого определения возможностей сознательного искусственного интеллекта. Если упростить, что делает ИИ осознанным ИИ? Действительно ли беседа, наподобие диалога между Лемойном и LaMDA, является признаком того, что компьютер обрел сознание?

В Google считают, что это не так. Лемойн решил сделать свои исследования достоянием общественности после того, как он попытался доказать руководству, что LaMDA обрел сознание. Когда в компании его аргументы не приняли, он отправился в Судебный комитет Палаты представителей. Таким образом он нарушил свой контракт с Google, из-за чего его отправили в оплачиваемый административный отпуск.

В компании объясняют, что современный ИИ анализирует и использует невероятное количество информации, из-за чего его поведение действительно может показаться «осознанным». Сам Лемойн в итоге так и не сумел предоставить надежных доказательств того, что LaMDA стала осознанной системой — однако он вновь спровоцировал разговоры о реальности воплощения этого сценария.

К примеру, недавно мы писали о нейросети DALL-E 2, которая придумала свой секретный язык — на деле это оказалось особенностью того, как ИИ воспринимает и кодирует информацию, чтобы использовать ее в дальнейшем. Ранее много обсуждений вызывал также генератор текста GPT-3, который писал убедительные статьи, сценарии для фильмов и даже выдал колонку, в которой убеждает, что роботы не собираются порабощать людей. Да-да, так мы и поверили.

Тем не менее, об осознанности ИИ говорить еще рано. Система может научиться логически отвечать на вопросы, дискутировать о смысле жизни или подсказывать, как ухаживать за ребенком — но если все эти знания собраны с Википедии и комментариев в Фейсбуке, то эту машину нельзя назвать осознанной.

ИИ не умеет узнавать, как устроен мир, наблюдая за ним как младенцы и дети; он не понимает логики в построении слов (вместо этого он использует токены, чтобы грамотно выстраивать свою речь и «понимать» слова); не понимает, что существование мира не поддается определенной логике и прогнозированию. В конце-концов, сейчас ИИ не умеет учиться без человека — даже если мы создаем самообучающуюся систему, именно человек стоит во главе этого процесса, прописывая код. И человек может этот процесс прекратить.

Профессор лингвистики из Вашингтонского университет Эмили Бендер утверждает, что свою лепту в наше непонимание вносит и терминология. К примеру, мы часто говорим об «обучении» ИИ, что создает аналогию с тем, как учится человек. Однако нейросети обучаются совершенно не так — они, грубо говоря, перелопачивают огромное количество текста, чтобы выбрать следующее слово в предложении.

Сейчас в Сети существует такое количество информации, что ИИ не нужно быть осознанным, чтобы у человека, который взаимодействует с ним, возникало ощущение наличия сознания у нейросети.

«Наш разум очень хорошо конструирует реальность, которая не обязательно соответствует тем фактам, которые нам предоставляют», — отмечает Маргарет Митчелл, бывшая сотрудница Google, также работавшая над разработкой ИИ.

Несмотря на то, что предположение Лемойна, вероятно, было неправильным, оно в очередной раз подняло вопрос — действительно ли нам нужен осознанный ИИ? Одно дело философствовать с нейросетью о смысле жизни и правах роботов, а совсем другое — попытаться ужиться с потенциально опасной разумной формой жизни, которая постепенно осознает свое превосходство над (до тех пор) доминирующим видом.