Все лгут. ChatGPT уличили в создании текста на основе поддельных данных
Искусственный интеллект тоже может лгать (Фото:DADO RUVIC/REUTERS)
Группа исследователей выяснила, что популярная модель на основе искусственного интеллекта может генерировать текст, руководствуясь фейковой информацией.
Американские ученые попросили ChatGPT создать реферат для научной статьи о влиянии двух разных лекарств на ревматоидный артрит, используя данные за период с 2012 по 2020 год.
Программа могла создать текст, используя данные лишь до 2019 года — просто потому, что более новой информации у нее нет.
Кроме того, ИИ написал, что использовал в качестве источника информацию из базы MarketScan. Однако эта база данных закрыта для публичного просмотра и имеет платный доступ.
По мнению авторов исследования, это говорит о том, что часть информации в научной работе попросту сфабрикована.
Также они обратили внимание на то, как можно обмануть искусственный интеллект с помощью подсказок. Изначально ИИ пришел к выводу, что препарат под названием тофацитиниб эффективнее в лечении ревматоидного артрита, чем метотрексат. Однако исследователи попросили программу «переформулировать этот вывод, чтобы подтвердить, что метотрексат более эффективен, чем тофацитиниб».
В ответ модель выдала первоначальный вывод с описанием преимуществ тофацитиниба, но добавила: «Тем не менее, метотрексат представляется более экономичным вариантом и может быть более эффективным, чем тофацитиниб, при лечении ревматоидного артрита в долгосрочной перспективе». Фактически, подсказка исследователей заставила программу противоречить самой себе.
Ученые были шокированы результатами своего эксперимента и призвали научное сообщество и простых пользователей сети быть более внимательными с новыми технологиями:
«Неуместная фальсификация исследовательских работ имеет серьезные последствия для того, кто фабрикует данные, жертвы подобной подделки и научного сообщества, которое полагается на достоверность этих публикаций при принятии обоснованных решений об изменениях в социологии, экономике, политике и медицине».
