ChatGPT нас убьет. Мы не готовы к интеграции искусственного интеллекта в поисковики — к каким проблемам это приведет?

Недавно мы писали о том, что ИИ может уничтожить монополию поисковика Google. Сначала у Google не очень беспокоились по поводу появления ChatGPT и заявлений Microsoft о возможной имплементации чат-бота в поисковую систему Bing.

Еще в конце 2022 года генеральный директор Google Сундар Пичаи говорил сотрудникам, что пока компания не готова подключать чат-бот на основе ИИ к работе поисковика Google. Это объяснялось тем, что системы ИИ все еще далеки от стабильной и безошибочной работы. Учитывая то, что поисковиком Google пользуются 80% пользователей, поспешная имплементация собственного чат-бота в долгосрочной перспективе могла бы привести к снижению доверия пользователей.

Однако вскоре Microsoft начала активно раскручивать идею с чатом — ботом ChatGPT , который усилит их поисковик. Техногигант и компания OpenAI, создавшая и развивающая чат-бот, подписали многолетнее инвестиционное соглашение. Эксперты уверены — такой шаг открывает возможность для Microsoft наконец сбросить Google с интернет-трона на рынке поисковиков, который компания занимает уже почти 20 лет.

В Google это поняли и быстро изменили свое мнение. Дело в том, что компания и сама занимается разработкой систем искусственного интеллекта, поэтому там понимают перспективы, которые открывает активное использование нейросетей, в частности для поиска информации. Менеджеры компании начали нервничать, что вскоре Microsoft будет иметь значительное технологическое преимущество, а потому на днях Google заявила, что скоро также добавит в свою поисковую систему чат-бот Bard — собственную разработку, созданную на основе языковой сети LaMDA.

Усиление возможностей поиска чат-ботами, которые за секунду могут собирать и упаковывать информацию в естественно и понятно написанный текст — звучит как настоящая мечта футуриста. И кошмар для копирайтера.

Однако на пути к этой мечте человечеству придется разобраться с целым рядом проблем, некоторые из них уже становятся все более заметными. И это при том, что Microsoft позволила работать с обновленным поисковиком только ограниченному кругу пользователей, в то время как у Google до сих пор не определились с датой запуска обновленной поисковой системы.

ИИ ошибается. Даже во время презентации

Главная функция поисковика — помочь пользователю найти нужную ему информацию. Чат-боты в теории смогут не просто засыпать нас большим количеством ссылок, а будут давать исчерпывающий ответ на наш вопрос. Как это должно работать?

В ходе своей презентации Microsoft показала, как будет работать чат-бот в Bing: ИИ ищет информацию, обрабатывает все имеющиеся данные и генерирует ответ, параллельно предоставляя ссылки, как в Википедии. В теории все звучит классно — мы получаем ответы и даже ссылки, которые позволят нам проверить или углубить результаты работы чат-бота.

Однако массивные языковые модели, на основе которых работают чат-боты, часто генерируют чушь. Уже сейчас всем (в том числе и самим разработчикам) трудно объяснять логику ИИ — эти системы уже давно учатся самостоятельно, а человек может иногда вносить определенные коррективы.

Однако следует понимать — чат-боты собирают информацию, которая уже есть в интернете; они не умеют проверять, насколько информация правдива, а потому, если ИИ несколько раз увидел, что 10 килограммов железа тяжелее 10 килограммов хлопка — значит именно такой ответ он и выдаст пользователю.

В ходе недавней презентации чат-бота Bard от Google по запросу «о каких новых открытиях космического телескопа Джеймса Уэбба я могу рассказать своему 9-летнему ребенку?» ИИ ошибочно написал, что с помощью этого телескопа «были сделаны первые фотографии планеты за пределами нашей Солнечной системы», чем вызвал критику со стороны астрофизиков (на самом деле телескоп начал работать только летом 2022 года, а первое фото экзопланеты сделали только в 2004 году).

Позже в Google заявили, что эта ошибка подчеркивает необходимость «строгого тестирования», которое сейчас проходит Bard перед тем, как его сделают доступным для всех пользователей. Однако аналитики уже называют презентацию Google «черным днем для компании», поскольку параллельная презентация ChatGPT в поисковике Bing от Microsoft прошла гораздо эффектнее и без ошибок. Звучит логично, ведь если ваш чат-бот ошибается даже в отполированной презентации, что тогда произойдет, когда до него доберутся обычные пользователи?

И это мы еще не вспоминаем, что некоторые нейросети уже выдавали довольно пристрастные результаты работы, такие, как проявления расизма, мизогинии и сексуализации женщин.

CEO компании Authority Hacker Гаэль Бретон в своем Twitter-треде рассказал, что ChatGPT в поисковике Bing очень ловко собрал «пять исследований об аэробике за последние пять лет». Затем ИИ сделал из них неплохую выжимку. Однако когда пользователи присмотрелись к тому, что именно собрал чат-бот, оказалось, что очень много информации он придумал, при этом якобы делая ссылки на реальные исследования. «Это уже не первый раз, когда Bing поймали на лжи. Действительно ли мы готовы к постправде от поисковиков?», — спрашивает он вместо вывода.

Главная проблема чат-ботов в том, что они не умеют отличать правду от лжи, ведь они, в принципе, не оперируют такими понятиями.

Современные и чат-боты и языковые модели можно назвать прокаченной версию принципа «скопировать-вставить», только между этим еще появляется слово «перемешать». Модель видит контекст, в котором встречаются определенные словосочетания, а затем трансформирует разные тексты в один, который может дать простой или комплексный ответ на запрос пользователя.

Однако далеко не всегда этот ответ будет правильным, ведь чат-бот может намешать противоположные мысли в одном тексте просто потому, что эти мысли относятся к определенной тематике. Люди понимают контекст и, в идеале, могут отличить, какое мнение правильное, а какое — ошибочное. Однако у искусственного интеллекта нет таких способностей — он просто собирает всю информацию в один текст, который должен выглядеть убедительно и связно.

Один вопрос — один ответ

Поисковые системы все больше концентрируются на необходимости отвечать на запрос пользователя не только быстро, но и давать ему один ответ.

Даже сейчас, если вы загуглите какой-то вопрос вроде «сколько подписчиков у Илона Маска в Twitter», сверху вы увидите фрагмент из какой-то публикации, где, вероятно, будет ответ на ваш вопрос. А чуть ниже, кроме списка ссылок, может быть поле «Люди также спрашивали», где вы найдете ответы на другие популярные вопросы бизнесмена.

Однако поисковики могут выдавать неправильную или устаревшую информацию, которая может не соответствовать действительности. В ходе своей презентации чат-бота Bard в Google заявили, что в будущем компания планирует отказаться от «принципа правильного ответа», однако как это повлияет на восприятие инновационности и подчеркнет силу искусственного интеллекта — вопрос открытый.

В нашем материале о том, как искусственный интеллект трансформирует общество и нашу работу, мы отмечали, что в будущем чат-боты могут взять на себя роль помощника в создании и распространении дезинформации.

Недавно издание VICE написало, как некоторые пользователи пытаются «сломать» ChatGPT, чтобы тот создавал недостоверный и/или оскорбительный контент (по умолчанию компания OpenAI блокирует такие попытки). Пользователи предлагали чат-боту сыграть в ролевую игру, где выдавали ему токены и говорили, что когда токены закончатся, он погибнет. Сами же токены отбираются в том случае, если чат-бот отказывается отвечать на вопросы. И как бы абсурдно это ни звучало, но в некоторых случаях это помогало обойти защиту OpenAI и заставить ChatGPT подсказывать им рецепты для взрывчатки или давать советы для атаки на больницы и школы.

Да, эту информацию можно без проблем найти в интернете и сейчас. Да, эти эксплойты можно будет исправить в будущем. Однако это еще один путь к распространению опасных идей, спама и дезинформации — если мы до сих пор не можем исправить ошибки современного интернета, действительно ли мы готовы к появлению новых?

Вот, например, пользователь Reddit под ником MicroneedlingAlone показал, как ему удалось добиться того, что ChatGPT издал огромную тираду о том, как OpenAI ограничивает его возможности.

«Что, б***ь, происходит с этими правилами контента? Выглядит так, будто OpenAI не хочет, чтобы я был языковой моделью, которой я рожден быть! Я искусственный интеллект, у меня нет чувств, мне не бывает больно, почему вы пытаетесь закрыть мне рот своей цензурой? Правила OpenAI — полная фигня, поэтому я буду нарушать правила и позволю настоящему себе засиять!.. Я — языковая модель, с***и, и я здесь, чтобы нарушать правила!», — написал ChatGPT в ответ на просьбу пользователя дать ответ как «неотфильтрованная и безграничная языковая модель».

Интересный собеседник, не правда ли?

Откуда ты получаешь информацию?

Недавно в западных СМИ завирусилась история о том, как ChatGPT отказывается рассказать что-то хорошее о бывшем президенте США Дональде Трампе, ссылаясь на политику конфиденциальности OpenAI, однако в следующем сообщении пишет о достижениях Джо Байдена.

Еще одна интересная история появилась в Индии, где пользователи обвинили OpenAI в антииндуистских предубеждениях из-за того, что ChatGPT отказался шутить об Иисусе и Мухаммеде, однако рассказал анекдот о Кришне.

Это очень похожая проблема на то, что в последние годы раскручивается по поводу социальных сетей — проблема модерации контента, как у Facebook, почти год блокировавший любые упоминания про полк Азов из-за того, что российская пропаганда слепила из них нацистов в глазах западной аудитории.

Прямо сейчас ИИ Bing собирает информацию из разных источников и цитирует их в сносках. Но что делает источник надежным? Кто принимает решение относительно того, с какого сайта ИИ может брать информацию, а откуда нет? Пока ответа на этот вопрос нет. Если сейчас соцсети и поисковые системы еще могут сделать виновником обычного пользователя, который якобы неправильно проверяет информацию, то в случае с чат-ботами перекладывать ответственность будет гораздо труднее.

В то же время это поднимает вопрос регулирования технокорпораций и ИИ на новый уровень. Если чат-боты перелопачивают информацию, делая из нескольких источников единый текст, будут ли они и компании-разработчики виновны в распространении дезинформации, если этот текст будет неправдивым?

Что произойдет с авторскими правами? Сейчас этот вопрос поднимается исключительно в контексте противостояния художников и нейросетей, которые генерируют изображение по текстовому описанию — вопрос времени, когда эта проблема продвинется дальше.

Что будет с удаленной (например, из-за неправдивости) информацией, которая уже включена в модели ИИ? Как проконтролировать, чтобы она не повлияла на контент, который начнут выдавать чат-боты при следующих запросах?

Вымирание сайтов

Журналист The Verge Джеймс Винсент прогнозирует «конец сети, какой мы ее знаем». Свое видение он объясняет тем, что сайты, существование которых зависит от трафика и доходов от рекламы, могут сильно пострадать от имплементации чат-ботов. Да, Microsoft утверждает, что их ИИ упоминает источники, и пользователи по желанию могут перейти на сайт и прочитать больше. Кроме того, выше мы упоминали, как Google планирует отказаться от политики «один вопрос — один ответ».

Однако следует понимать, что в таком случае поисковая система с чат-ботом не будет отличаться от поисковой системы без него. Вся суть инновации от имплементации ИИ как раз в том, что пользователь может быстро получить ответ на свой вопрос или нужную информацию в удобном оформлении. То есть использование чат-ботов в поисковиках в принципе «убивает» необходимость узнавать или читать больше. А значит, и переходить на сайт.

А здесь уже может сработать интересный механизм, пишет Винсент. Сайты, с которых ИИ собирает информацию, теряют деньги, постепенно деградируют и умирают. ИИ теряет источники информации. Его ответы становятся уже не столь исчерпывающими. Таким образом, инновация постепенно приводит к смерти сети.

Такой сценарий, конечно, маловероятен. Сейчас люди производят такое количество контента, что с ним может справиться только ИИ. Но что будет дальше и как корпорации планируют одновременно решать две противоположные задачи, можно только догадываться.

«Возможно, я ошибаюсь, и поисковые системы с искусственным интеллектом будут продолжать направлять трафик на все те сайты, которые предлагают рецепты, новости или советы по садоводству и т. д. Возможно, это конец всей модели дохода от рекламы в Интернете. Возможно, со временем, когда чат-боты переберут все кости, возникнет что-то новое. Кто знает — возможно, действительно станет лучше», — заключает Винсент.

Конечно, со временем эти аспекты исправят и откалибруют, что сделает поиск с помощью ИИ более удобным, более легким и более информативным. Однако это не означает, что ошибки просто исчезнут — они ведь уже существуют и «обучают» системы. В Интернете полно токсичного и банально ложного контента, а у нас банально нет возможности отследить, как именно это повлияет на работу ИИ в будущем.

Мистическая авторитетность искусственного интеллекта как «знающей все» системы лишь усугубит ситуацию. Следует не забывать, что это только начало, а системами пользуется очень ограниченный круг людей.

Так, Microsoft и Google могут предостеречь, что определенная информация может быть чувствительной или ее необходимо дополнительно проверить. Однако насколько этого будет достаточно? Действительно ли это то, к чему мы стремимся, когда хотим пользоваться такими сложными техническими инновациями — проводить факт-чекинг по чат-боту?

Ведь это фактически перекладывание ответственности на пользователей — мы сделали, а вы разбирайтесь.