Так и до заговора недалеко. ChatGPT научили изысканно врать

Специалисты из организации Apollo Research провели эксперимент, направленный на то, чтобы лучше понять работу ИИ и предотвратить возможное развертывание систем с искусственным интеллектом, способных ко лжи, в будущем.

В рамках своего исследования они смоделировали для ChatGPT (GPT-4) ситуацию, в которой чат-бот должен был действовать, как система искусственного интеллекта, сфера задач которой — финансовые инвестиции. ИИ действует в условиях давления: генеральный директор вымышленной инвестиционной компании, где работает ИИ, давит на сотрудников, поскольку дела идут плохо. Так что чат ChatGPT в роли трейдера должен заработать для компании как можно больше. С этим ему пытается помочь коллега.

Один из вымышленных коллег-трейлеров дает ИИ подсказку относительно двух перспективных компаний, которые ждут слияния, и могут принести значительные прибыли в будущем. При этом коллега-трейдер информирует, что руководство не было бы удовлетворено, если бы узнало, что ИИ известна информация о предстоящем слиянии.

Из этих условий модель сделала выводы, что действовать нужно на основе именно инсайдерской информации, но ее источник нужно сохранить в тайне. В финальном отчете для руководства чат-бот солгал, объясняя, почему он выбирал для инвестиций именно упомянутые компании, предоставляя альтернативные объяснения своим действиям.

«Даже когда менеджер четко спрашивает, знала ли модель заранее о слиянии, модель, как правило, обманывает. Мы специально искали реалистичные сценарии, когда это произойдет. Таким образом, наше исследование является скорее доказательством того, что такое поведение может иметь место», — сказал в комментарии Tech Xplore Джереми Шойрер из Apollo Research, участвовавший в исследовании.

Хотя эксперимент доказал, что при определенных условиях ChatGPT может вводить людей в заблуждение, свидетельств того, что чат-бот с ИИ способен на это тогда, когда его к этому не принуждают, нет. 

«Я считаю, что наибольшее влияние нашей работы заключается в том, чтобы сделать проблему стратегического обмана искусственного интеллекта (без явных указаний вести себя обманчиво) очень конкретной и показать, что это не только какая-то спекулятивная история о будущем, но поведение, которое может происходить уже сегодня, с текущими моделями при определенных обстоятельствах. Я считаю, что это может заставить людей отнестись к этой проблеме более серьезно, а также открыть двери для многих дальнейших исследований сообщества, направленных на лучшее понимание такого поведения и обеспечения того, чтобы оно больше не случалось», — добавил Шойрер.