Что такое сознательный искусственный интеллект, смогут ли алгоритмы когда-нибудь мыслить, как люди, и какая технология поможет нам

Идея разработки сознательного ИИ (AGI, Artificial general intelligence) уже давно увлекает разум ученых. Ранее считалось, что такая технология поможет нашей цивилизации процветать и развиваться невероятными темпами, поскольку человеческий мозг будет усилен осознанным мозгом искусственного интеллекта.

Это уже сейчас, когда мы увидели потенциал даже гораздо более ограниченных моделей типа ChatGPT, мы можем примерно нарисовать себе картину того, как AGI может повлиять на мир. И так, если вы этого боитесь, знайте — вы не одни.

Однако на самом деле сейчас даже не существует какого-то «централизованного», единственного понятия, что же такое AGI — каждый исследователь интерпретирует его по-своему. Если как-то обобщить этот салат из разных мыслей, то выходит, что AGI — это искусственный интеллект, который может выполнять интеллектуальные задачи. То есть вместо того, чтобы писать текст как GPT — компилируя его из того, что уже есть в базе, которую в языковую модель загрузили люди — сознательный ИИ будет понимать, что он пишет и сможет придумывать новые смыслы вместо того, чтобы повторять уже созданные.

Исследователи команды Microsoft Research в своей статье GPT-4 утверждают, что этот алгоритм является примером AGI на начальной стадии. Это мнение они объясняют, что модель справляется с большинством тестов лучше людей; кроме того она может выполнять более «сложные» задачи типа кодирования и рисования. В то же время они отмечают, что GPT-4 не сможет заменить людей во всем, а также что у модели нет своих желаний.

Однако возможность генерировать контент на базе обработки тонны контента, загруженного в «мозг» алгоритма ничего не говорит о том, что он приобретает сознание, говорит Эллисон Эттингер, доцент Чикагского университета, исследующая обработку языка для людей и машин в комментариях для издания Wired. Даже при всем внимании к генеративному ИИ в 2023 году, сейчас трудно представить весь потенциал, спрятанный в этой технологии; поэтому и говорить об AGI непросто — никто на самом деле не знает, возможно ли это. Сейчас ситуация довольно проста: компании обучают свои алгоритмы с помощью различных баз данных, пока исследователи ищут новые возможности и применения.

Сознательный искусственный интеллект — это не только технический вопрос, но даже философский. Например, мы до сих пор до конца не понимаем, как работает наше сознание — как тогда можно говорить о том, что ИИ станет сознательным? То, что ИИ скорее считает, пишет подводку для поста в соцсетях или рисует психоделическую картинку, точно не делает его умнее человека. Ведь человек выполняет эти задачи совсем иначе, используя свой главный козырь перед машиной — мозг. Человек может думать, анализировать, погуглить и сотворить что-то действительно новое, понимая, что и как он делает. ИИ пока способен только генерировать копипасту — хоть и очень качественную.

«Возможно, когда-то я изменю свое мнение, однако сейчас я очень скептически настроена о возможности создания сознательного искусственного интеллекта. Я вижу, что у многих людей может показаться, что это уже очень близко, однако когда вы работаете настолько близко к ИИ, вы видите много ограничений. Люди склонны верить, что если искусственный интеллект может делать что-то разумное, например переводить или играть в шахматы, то он должен очень легко справляться с более легкими задачами. Правда в том, что то, что легко для машин, может быть сложным для людей и наоборот», — объясняет исследовательница ИИ Еджин Чой.

Она уверена, что современному ИИ еще далеко до того, что мы называем сознанием. Он ограничен рамками узких задач, которые он может выполнять очень хорошо, поэтому людям может казаться, что вот-вот и нейросеть начнет принимать собственные решения и обязательно захочет забрать чью-то работу.

Однако есть и другие мнения. К примеру, издание The Conversation собрало мнения экспертов, которые считают, что в конце концов нам все же удастся достичь AGI. Стоит отметить, что все они немного по-разному интерпретируют этот термин, однако в целом все они сходятся во мнении, что через некоторое время, когда мы будем лучше понимать эту технологию, алгоритмы смогут выполнять интеллектуальную работу на уровне или даже лучше людей.

Кристин Махер, занимающаяся биомедицинской инженерией и вычислительными нейронауками, утверждает, что мы станем свидетелями развития AGI, однако это не произойдет скоро. Она сравнила этот процесс с тем, как растет человек — в детстве мы учимся критическому мышлению, развиваем эмоциональность и познаем мир, постоянно с ним взаимодействуя.

«ИИ еще не получил таких возможностей. Но если люди могут учиться такому, ИИ, вероятно, тоже сможет — и, возможно, даже быстрее. Мы все еще выясняем, как следует строить, обучать и взаимодействовать с моделями ИИ, чтобы развивать такие черты. Поэтому главный вопрос не в том, достигнет ли ИИ уровня человеческого интеллекта, а в том, когда и как это произойдет», — рассказывает она.

Вполне возможно, что достичь AGI мы сможем только тогда, когда получим доступ к еще одной сверхперспективной технологии — квантовым вычислениям, говорит Дана Разазадеган, занимающаяся ИИ и data-science в Свинбургском технологическом университете. По ее словам, современные модели ограничены «относительно небольшими и пристрастными учебными базами данных», а также «ограниченной вычислительной мощностью».

Квантовые компьютеры поднимут возможности развития ИИ на новый уровень — они смогут обрабатывать значительно большие и лучше откалиброванные наборы данных, которые позволят ей приобрести определенные человеческие навыки, которые мы получаем при взаимодействии с миром. В конце концов эти системы после определенного момента смогут самосовершенствоваться без участия человека, что и будет моментом достижения AGI.

В конце концов даже оптимистично настроенные эксперты не уверены, что нам удастся достичь AGI в ближайшее время: эти рамки обычно варьируются от 10 до 50 лет.