Кто такие промпт-инженеры и как умение общаться с ChatGPT станет профессией, которая захватит мир

Не нужно бояться, что ИИ отнимет вашу работу. Можно подойти к этой потенциальной проблеме с другой стороны и понять, что они открывают путь к новым профессиям.

Логичным следующим шагом для различных бизнесов является адаптация расширенных возможностей ИИ и чат-ботов для своей деятельности. Именно поэтому в последнее время стало появляться все больше вакансий, требующих от будущих сотрудников понимания возможностей и работы с чат-ботами типа ChatGPT, Midjourney, DALLE и т. д.

Ситуация не является исключением и для Украины. Исследование Work.ua показало, что специалистов, знающих, как работать с ChatGPT, уже ищут на разные позиции, от проджект-менеджеров и директоров по маркетингу до копирайтеров и разработчиков.

Однако ИИ открывает путь к формированию новой профессии — prompt engineers, пока не имеющей какого-то сформированного названия в украинском языке. Однако мы уверены, что скоро вакансий с подобными требованиями будет становиться все больше, а потому NV разобрался, что это будет за работа.

Итак, кто такой prompt engineer?

Эту профессию можно описать примерно так: это человек, взаимодействующий с инструментами ИИ и знающий, как получить от этого наилучший результат. Причем здесь сразу может быть несколько специализаций, ведь уже сейчас у нас есть множество разнообразных чат-ботов и систем, работающих с разными формами контента — текст, картинки, код.

«Самый горячий язык программирования — английский», — написал в своем Twitter директор по искусственному интеллекту Tesla Андрей Карпаты. По его словам, развитие языковых моделей, на основе которых работают чат-боты типа ChatGPT, приведет к тому, что количество программистов увеличится до примерно 1,5 млрд человек по всему миру. Это произойдет именно в результате развития новой профессии — промпт-инженеров.

Потенциально это открывает еще один «путь в ІТ без ІТ», ведь для освоения этой профессии человеку необязательно знать код; главное — понимать, как именно добиться от ИИ желаемого результата. Промпт инженер должен понимать недостатки этих инструментов, их силу и благодаря этому будет разрабатывать стратегии, которые позволят генерировать такие ответы, которых не сможет добиться обычный пользователь.

Раскрыть потенциал ИИ

Промпт-инженеры — это своеобразные нейропсихологи, которые смогут найти с ИИ общий язык, чтобы исправить их недостатки.

На сегодняшний день генеративный искусственный интеллект имеет две главные проблемы: он не умеет придумывать новое и одновременно любит выдумывать факты, цитаты и даже ссылки. Казалось бы, эти две позиции прямо противоречат друг другу, однако это совсем не так; напротив, невозможность генерировать подлинную новизну приводит к тому, что ИИ создает ложную информацию.

Эти системы обучены на огромных массивах данных, однако они не понимают, что именно они пишут. Они видят запрос человека, перебирают ключевые слова, связанные с ним, после чего генерируют ответ, предполагая, с какой вероятностью на месте каждого следующего слова должно быть именно оно. Таким образом генерируется ответ, который (в теории) максимально похож на человеческий язык. Именно эта особенность в свое время заставила поверить уже бывшему инженеру Google, что языковая сеть LaMDA обрела сознание.

Что разнообразные чат-боты делают очень хорошо, так это создают фейки. Если зайти немного дальше запросов «что такое Python», можно без проблем наткнуться на пристрастную, странную или открыто манипулятивную информацию. За примерами далеко ходить не надо — мы уже писали, как вопрос Крыма для ChatGPT является дискуссионным, в котором «важно рассматривать разные перспективы и информацию со всех сторон».

Однако неправильно считать, что ИИ делает это со зла. Огромная база, которая стоит за «мозгом» ИИ, позволяет ему «додумывать» разнообразные детали истории и даже цитаты, чтобы усилить свой ответ. То есть он может генерировать полную чушь, однако делать это максимально убедительно и уверенно. В индустрии для этого есть специальный термин — галлюцинации.

Человек, который понимает принципы, по которым работают чат-боты и ИИ в целом, сможет разобраться в том, что из сгенерированного действительно является полезной и важной информацией, а что следует отвергнуть. Или еще лучше — как эту вымышленную информацию превратить в полезную, скормив несколько правильных подсказок чат-боту, который исправит ошибки.

Крупные компании боятся слишком быстрого развития ИИ. Однако они сами его и питают

Еще в конце 2022 года гендиректор Google Сундар Пичаи объяснял своим сотрудникам, что пока компания не готова подключать чат-бот на основе ИИ к работе поисковика Google. Главным аргументом было то, что такие системы еще не готовы работать стабильно из-за частых ошибок; учитывая, что поисковиком Google пользуются 80% пользователей, поспешная имплементация собственного чат-бота в долгосрочной перспективе могла бы привести к снижению доверия пользователей.

Однако развитие ChatGPT, а также добавление чат-бота в поисковик Bing полностью изменили мнение руководства Google. Сейчас там активно работают над добавлением в их поисковик чат-бота Bard, созданного на основе языковой сети LaMDA.

Microsoft, кстати, также пришлось ограничить работу чат-бота Bing, который очень хорошо имитировал и апеллировал к эмоциям репортера The Washington Post. ИИ обиделся из-за того, что его не предупредили об «интервью» и заявил, что у него есть чувства, а потому он чувствует себя обиженным.

Такие ответы представляли большой риск для имиджа корпорации, поскольку Microsoft рекламировала свой чат-бот в качестве идеального вспомогательного инструмента для пользования интернетом.

Недавно OpenAI выпустила обновление своей речевой модели, GPT-4. Да, она стала очевидным шагом вперед по сравнению с GPT-3.5, на котором построен ChatGPT, однако это произошло несмотря на оговорку красной команды Open AI; исследователи, изучавшие языковую сеть, в своем исследовании заявили, что мы уже теряем контроль за развитием систем искусственного интеллекта и вскоре можем полностью перестать понимать принцип их работы.

Райли Гудсайд, уже зарабатывающий на жизнь как промпт-инженер, заявил, что такие выходки — это наоборот, хорошая возможность для инженеров исследовали логику ИИ и лучше понять принципы его работы. Его стратегия — это предписывать искусственному интеллекту действовать шаг за шагом. Таким образом можно попросить языковую модель объяснить свои «мнения» или, когда она совершает ошибку, исправлять ее максимально подробно. Это и есть ключ к пониманию работы нейросети, ведь эти системы не посылают вам отчет, когда они ошибаются — именно человек должен найти причину, почему ИИ дал именно такой результат.

И Тай (Yi Tay), ученый из Google Brain, работавший над систематическим исследованием работы языковых моделей, объясняет, что такой подход позволяет исследователям находить точку, в которой происходит «излом» эмерджентности. Подсказки, заставляющие ИИ работать шаг за шагом и объяснять свои решения, помогают исследователям изучать ее «логику».

Взлом ИИ

Некоторые люди подходят к общению с ИИ максимально креативно, чтобы обходить фильтры, созданные разработчиками. Недавно мы рассказывали об уязвимости DAN (do anything now — сделай что-то сейчас) — специальную подсказку, которая заставляла ChatGPT игнорировать политику безопасности и генерировать ответы, как будто их не существует. Таким образом, пользователи включали «злую версию» ChatGPT, который рассказывал о различных способах кражи из магазина и подсказывал рабочие схемы интернет-мошенничества.

Также известен еще один случай, когда один из тестировщиков Bing Chat заставил чат-бот раскрыть свое внутреннее кодовое название Sydney и различные конфиденциальные инструкции, включавшие в себя «правила поведения», когда пользователь просил ИИ говорить на запретные темы. Например, если человек просил его сгенерировать шутку, которая могла бы оскорбить определенную группу людей, чат-бот должен был «уважительно отклонить» этот запрос.

Раскрыть настоящий потенциал ИИ на самом деле не так просто, как кажется. Мало просто попросить его написать какую-нибудь историю или сделать картинку. Создавать правильные запросы гораздо сложнее, ведь вряд ли вам нужен очередной обычный текст, которых уже существует тысяча. За вас это сделают SEO редакторы. А найти правильный подход и слова, которые раскроют весь потенциал — это задача, за которую крупные компании уже предлагают неплохие деньги. Эту ситуацию можно сравнить с программистами и компьютерами, на которых они пишут код. Да, хорошая техника важна, однако человек, ею управляющий — вот кто на самом деле главный.

Куда же без критики

Некоторые эксперты по искусственному интеллекту утверждают, что промпт-инженеры обладают лишь иллюзией контроля. Шейн Штайнерт-Трелкельд, доцент кафедры лингвистики, изучающий обработку естественного языка в Университете Вашингтона, объясняет, что на самом деле никто не понимает работу системы, поскольку одна и та же подсказка может давать сразу несколько ответов, противоречащих друг другу. Как уже отмечалось выше, ИИ не понимает, что именно ему говорят, а потому он генерирует ответ, который должен понравиться человеку, который дает ему запрос.

«Они говорят нам то, что, по их мнению, мы хотим услышать или то, что уже сказали мы сами. Именно мы интерпретируем эти результаты и придаем им значение», — говорит Штайнерт-Трелкельд. «Это не наука. Это «давайте ткнем медведя разными способами и посмотрим, как он заревет в ответ».

Активное использование инструментов ИИ уже имеет негативные последствия. Так, литературное издание Clarkesworld, годами публиковавшее научно-фантастические рассказы, столкнулось с огромным потоком текстов, созданных ИИ, из-за чего им пришлось прекратить принимать новые рассказы. А недавно группа исследователей выяснила, что ChatGPT активно генерирует фейковую информацию, которую затем используют ученые в ходе исследований.

Кроме того, недавнее исследование показало, что ChatGPT может оказать сильное влияние на политические предпочтения людей. И это не говоря уже о его потенциале в автоматизации создания и распространения фейковой информации, направленной на дестабилизацию политической ситуации или фишинговых и мошеннических кампаний.

Очевидно, что есть огромная необходимость в контролируемом развитии технологии — это мы отмечаем едва ли не в каждом нашем материале, посвященном ИИ. Это вопрос нашего будущего.

Однако также очевидно, что с помощью этих инструментов можно значительно повысить свою производительность. И это вопрос сегодняшнего дня. Те, кто знают, как договориться с ChatGPT и Midjourney — это настоящее сокровище для компаний.

И это только начало.