Теперь это с нами навсегда. Фейковый биологический термин внезапно стал популярным, потому что его «заучил» ИИ

Искусственный интеллект, просматривая огромное хранилище журнальных статей в интернете, «заучил» лишенный смысла термин «vegetative electron microscopy» (вегетативная электронная микроскопия). Команда исследователей из Retraction Watch заинтересовалась его происхождением и нашла источник проблемы.

Было установлено, что термин, возможно, был взят из параллельных колонок текста в выпуске журнала Bacteriological Reviews, который вышел в 1959 году. Они касались двух разных статей, которые позже были отсканированы и оцифрованы и содержали слова «vegetative» в одном столбце и «electron» в другом. Расположение колонок в тех статьях спутало программное обеспечение для оцифровки, поэтому эти слова из разных текстов слились в лишенную смысла фразу «vegetative electron», которая далее превратилась в «vegetative electron microscopy». Последнее исследователи заметили в научных работах из Ирана. Они высказали предположение, что термин возник вследствие ошибки перевода, поскольку слова «вегетативный» и «сканирование» отличаются лишь точкой в персидском языке.

В любом случае, несуществующий термин "вегетативная электронная микроскопия" попал в учебные данные для искусственного интеллекта, и начал чаще встречаться в научных публикациях. В целом «vegetative electron microscopy», по данным Google Scholar, можно встретить в 22 статьях.

Сейчас исследователи предполагают, что термин содержится в наборе данных CommonCrawl, состоящем из петабайтов данных. Более старые модели, такие как GPT-2 и BERT от OpenAI, не знают его, но «вегетативная электронная микроскопия» известна более поздним моделям, таким как GPT-4o и Claude 3.5 от Anthropic.

«Это свидетельствует о том, что бессмысленный термин теперь может быть навсегда встроен в базы знаний ИИ», — говорят исследователи.