Губительно для науки. Сгенерированный ИИ спам захватил академический поисковик Google Scholar
Две трети научных документов, которые можно найти в академической поисковой системе Google Scholar, частично или полностью сгенерированы искусственным интеллектом.
Команда исследователей изучила распространенность научных статей с доказанным использованием генеративного искусственного интеллекта в академической поисковой системе Google Scholar, которая должна облегчать поиск исследований, опубликованных во многих академических журналах.
В своей работе, опубликованной HKS Misinformation Review, исследователи описали, что Google Scholar не отсеивает статьи, авторы которых не имеют научных связей или рецензирования. В результаты, которые выдает поисковик, попадают студенческие работы и препринты, а не только хорошо проверенные исследования. Команда обнаружила, что две трети документов, которые они изучали, были по крайней мере частично созданы с помощью чат-ботов, и авторы об этом не предупреждали. Из подготовленных ИИ 14,5% документов касались здоровья, 19,5% - окружающей среды, а 23% - компьютерной техники.
«Большинство этих сфабрикованных GPT статей было найдено в неиндексированных журналах и рабочих документах, но некоторые случаи включали исследования, опубликованные в основных научных журналах и материалах конференций», — написала команда.
Исследователи обозначили два основных риска, связанных с недостаточной избирательностью поисковика. Во-первых, большое количество сфабрикованных «исследований», угрожают перегрузить систему научной коммуникации. Во-вторых, этот контент был создан обманным путем, но убедительно маскируется под научный, что может привести к путанице.
