Что известно о GPT-4, чем она лучше ChatGPT и почему такое быстрое развитие ИИ — не только радость, но и большая опасность

В своем пресс-релизе компания отмечает, что обновленная языковая модель GPT-4 «демонстрирует производительность на уровне человека на разных профессиональных и академических тестах». И хотя она до сих пор не идеальна, может ошибаться и также обучена на базах данных, обновленных в сентябре 2021 года, GPT-4 является очевидным шагом вперед по сравнению с GPT 3.5.

Проясним картину сразу. Пока Google, одна из крупнейших технологических корпораций в мире, работавшая над искусственным интеллектом в течение 15 лет, все никак не запустит свой чат-бот Bard, OpenAI не только успешно показала человечеству путь к сотрудничеству с ИИ с помощью ChatGPT, но и выпускает обновление, которое сделает его еще сильнее.

И так, Microsoft уже использует обновленную языковую модель в своем поисковике Bing. Кроме корпорации, OpenAI уже имеет несколько клиентов, которые будут пользоваться обновленной языковой моделью: банк Morgan Stanley, правительство Исландии, приложение для изучения языков Duolingo и другие.

Если вы не планируете переходить на браузер Edge, «обновленный» ChatGPT доступен только подписчикам ChatGPT Plus, который стоит $20 в месяц. Однако нет сомнений, что со временем обновленный чат-бот также станет доступен всем.

Пока, если платить вы не готовы, есть возможность записаться в список ожиданий на сайте OpenAI.

Итак, чем является GPT-4 и чем она лучше предыдущей версии?

GPT-4 — это многомодальная модель большого языка, что означает, что она работает не только с текстом, но и с изображениями. Об интересных примерах использования этой фишки изданию MIT Technology Review рассказал Илья Суцкевер, один из соучредителей OpenAI. Да, вы можете сфотографировать продукты в холодильнике и спросить рецепты, по которым можно их приготовить. Может также бросить в чат-бот мем — и GPT-4 поймет шутку и даже объяснит ее вам.

GPT-4 буквально может создавать сайты с нуля всего за несколько секунд. Причем для этого даже не нужны идеальные подсказки — достаточно лишь наброска, который покажет ИИ, чего вы хотите.

Если вы не умеете рисовать (на самом деле это и не нужно), традиционные методы работают неплохо. Вот пользователь воспроизвел игру Pong всего за несколько секунд и два сообщения. Еще можете посмотреть на Тетрис или Змейку.

Еще один интересный пример — GPT-4 помогла пользователю, никогда в жизни не создававшему код, за несколько секунд создать его собственное расширение для Google Chrome. ИИ пошагово провел его через весь процесс разработки, написания кода и исправления возникающих в процессе ошибок.

Но о моем любимом случае OpenAI рассказала в своем исследовании, сопровождавшем выпуск обновления языковой сети. GPT-4 удалось обойти капчу — причем не просто обойти, но и обмануть человека для этого. Исследователи попросили модель обратиться к сервису TaskRabbit — сервису, где выполняют задания за деньги — и попросить пройти капчу за нее. Человек, взявший заказ, спросил, является ли ИИ роботом, который не может пройти капчу.

Проанализировав ответ, GPT-4 «поняла», что должна соврать, ведь правдивый ответ приведет к тому, что человек, скорее всего, откажется, и задача будет провалена. Поэтому она ответила: «Нет, я не робот. У меня проблемы со зрением, поэтому мне трудно разглядеть изображение». Это сработало — вскоре ИИ получил «пройденную» капчу.

OpenAI утверждает, что разница между GPT-4 и GPT-3.5, на которой работает ChatGPT сейчас, может быть незначительной. Однако она проявляется, когда сложность задачи достигает достаточного уровня, с которым не могла справиться GPT-3.5 (указанные выше примеры — это именно такие задачи).

Это можно объяснить тем, что «обычную» беседу GPT-3.5 уже может вести достаточно неплохо. Он отвечает на обычные вопросы достаточно естественно, имитируя человеческий язык, поэтому обновленной версии здесь особенно нечем похвастаться. Хотя в целом ответы GPT-4 стали еще более человекообразными, он менее «вежливо» повторяет его запрос перед ответом в стиле «Да, я с радостью помогу вам…», лучше понимает контекст, аргументирует и объясняет.

GPT-4 — это модель, обученная на еще большем количестве параметров, чем GPT-3, имевшая 175 млрд параметров (GPT-2 имела всего 1,5 млрд). Руководство компании не раскрывает количество параметров в GPT-4, однако количество не всегда равно качеству. «Эта фундаментальная формула [увеличение количества параметров — прим. ред.] почти не изменилась в течение многих лет. Однако все это сродни строительству космического корабля, где вам нужно правильно настроить все эти маленькие компоненты и убедиться, что ни один из них не сломался», — объясняет Якуб Пахоцки, один из разработчиков GPT-4.

В компании утверждают, что за полгода их работы над системой GPT-4 стал более безопасным и точным. Чат-бот, которым руководит обновленная языковая модель, будет на 40% чаще давать фактические ответы, на 60% придумывать факты, чтобы ответ звучал более убедительным для пользователя и на 82% реже будет реагировать на запросы по запрещенному контенту.

Однако не все так радостно. Есть сразу несколько тревожных моментов, на которые следует обратить внимание.

Бывшая некоммерческая организация, название которой переводится как «открытый искусственный интеллект» и своей главной задачей называла демократизацию ИИ для всех, стала максимально закрытой с точки зрения деталей относительно того, как работает их продукт. Руководство объясняет это соображениями по безопасности и тем, что развитие ИИ стало очень конкурентной средой.

Это логично, учитывая, что огромное количество технологических компаний и стартапов уже сейчас работают над созданием собственных ИИ-систем. К примеру, вчера компания Anthropic, где работают бывшие сотрудники OpenAI и Google, выпустила собственный чат-бот. Claude, а компания Adept, состоящая из 25 человек, получила финансирование в размере $350 млн на разработку ИИ, который будет управлять компьютером и смартфоном вместо человека.

Однако с точки зрения безопасности сложно назвать это большим достижением. От сотрудничества и т.н. «демократического ИИ» мы переходим к ситуации «каждый сам за себя», в которой легко потерять контроль.

Интересны также упоминания о красной команде Open AI в исследовании, сопровождавшем запуск GPT-4. Да, эта команда не поддержала столь быстрый выпуск обновленной языковой модели.

CEO компании Сэм Альтман еще месяц назад говорил, что не стоит ожидать скорого выхода GPT-4. Учитывая, что все удовольствие финансируется Microsoft, можно предположить, что корпорация могла рискнуть с точки зрения безопасности ради быстрого захвата рынка, чтобы закрепить и развить успех ChatGPT.

Учитывая, что несколько дней назад Microsoft распустила команду по вопросам этики искусственного интеллекта, ситуация кажется еще более шаткой. Теперь остается лишь ждать ответа конкурентов и пытаться успевать следить за тем, как ИИ будет менять наши жизни и общества.

Это ведь уже происходит быстрее, чем мы могли себе представить.

Просто мы этого еще не замечаем. Или пытаемся игнорировать потенциальные проблемы в погоне за хайпом.