Згубно для науки. Згенерований ШІ спам захопив академічний пошуковик Google Scholar
Дві третини наукових документів, які можна знайти в академічній пошуковій системі Google Scholar, частково або повністю згенеровані штучним інтелектом.
Команда дослідників вивчила поширеність наукових статей із доведеним використанням генеративного штучного інтелекту в академічній пошуковій системі Google Scholar, що мала б полегшувати пошук досліджень, опублікованих в багатьох академічних журналах.
У своїй роботі, опублікованій HKS Misinformation Review, дослідники описали, що Google Scholar не відсіює статті, автори яких не мають наукового зв’язку чи рецензування. У результати, які видає пошуковик, потрапляють студентські роботи та препринти, а не тільки добре перевірені дослідження. Також команда виявила, що дві третини документів, які вони вивчали, були принаймні частково створені за допомогою чат-ботів, і автори про це не попереджали. З підготовлених ШІ 14,5% документів стосувалися здоров’я, 19,5% - навколишнього середовища, а 23% - комп’ютерної техніки.
«Більшість цих сфабрикованих GPT статей було знайдено в неіндексованих журналах і робочих документах, але деякі випадки включали дослідження, опубліковані в основних наукових журналах і матеріалах конференцій», — написала команда.
Дослідники окреслили два основні ризики, спричинені недостатньою вибірковістю пошуковика. По-перше, велика кількість сфабрикованих «досліджень», загрожують перевантажити систему наукової комунікації. По-друге, цей контент був створений обманним шляхом, але переконливо маскується під науковий, що може призвести до плутанини.
