Главный фейкомет. Большинство дезинформации с изображениями теперь создает искусственный интеллект — фактчекеры
Отредактированные изображения исторически были одной из основных форм распространения дезинформации. Новое исследование показало, что с конца 2023 года к созданию большинства фейков с изображениями привлекался искусственный интеллект.
Исследование Google и других компаний охватило материалы, проанализированныее сервисами проверки фактов как Snopes, Politifact. В целом речь идет о почти 136 тысячах фактов, проверенных с 1995 года. Большинство из них проверены после 2016 года, когда появилась система тегов ClaimReview, которая позволяет обозначать дезинформацию на различных платформах.
Наиболее красноречивая диаграмма в исследовании показала, как изменилась роль искусственного интеллекта за последнее время. С конца 2023 года, когда генераторы с искусственным интеллектом стали широко доступными и популярными, доля сгенерированных фейковых изображений существенно возросла.
«До начала прошлого года изображения, созданные искусственным интеллектом, составляли незначительную долю манипуляций с контентом. Начиная незадолго до 2023 года, доля генеративных изображений, созданных искусственным интеллектом, начинает быстро расти. … Обшая популяция изображений, созданных искусственным интеллектом, теперь намного больше, и они почти так же распространены, как манипуляции текстом и общим содержанием», — говорится в исследовании.
Исследование также показало, что с 2022 года стали распространенными фейки с применением видео. На них приходится более 60% проверенных случаев распространения дезинформации. Анализ не охватывает случаи, когда в фейковом видео используются изображения, сгенерированные искусственным интеллектом.
Стоит отметить, что выборка исследования была ограниченной. Да и получить полное представление о том, насколько серьезна проблема дезинформации, созданной искусственным интеллектом, трудно, поскольку поиск и просмотр этих изображений занимает гораздо больше времени, чем их создание. Такие сайты, как Snopes и Politifact, которые имеют ограниченные ресурсы, сосредотачиваются на проверке фактов, которые получили определенный уровень вирусности или освещения в новостях. Кроме этого, исторически сложилось так, что фактчекеры сосредотачиваются на дезинформации на английском языке. Поэтому исследование отражает общую тенденцию, но не дает представления о масштабах проблемы.
