Магия за пределами Хогвартса. Книги о Гарри Поттере позволили ученым научить ИИ забывать информацию
Все больше исследователей используют книги-бестселлеры о Гарри Поттере для экспериментов с генеративной технологией искусственного интеллекта. Например, ученые смогли удалить из ИИ-моделей материалы, защищенные авторским правом.
Только за последние месяцы появился ряд научных работ, в которых для работы с ИИ были использованы книги Джоан К. Роулинг («Машинное обучение для разработки зелья в Хогвартсе», «Большие языковые модели знакомятся с Гарри Поттером», «Обнаружение заклинаний в фентезийной литературе с помощью искусственного интеллекта на основе трансформатора»
В одном из исследований специалисты из Microsoft Марк Руссинович и Ронен Элдан продемонстрировали, что модели искусственного интеллекта можно изменить или отредактировать, чтобы удалить любые сведения о существовании книг о Гарри Поттере, включая персонажей и сюжеты, не жертвуя общим решением системы искусственного интеллекта.
«Мы верили, что исследовательскому сообществу будет проще оценить модель, созданную с помощью нашей техники, и убедиться, что контент действительно был „неизученным“. Почти любой может придумать подсказки для модели, которые бы проверили, „знает“ ли она книги. Даже люди, которые не читали книг, знают элементы сюжета и персонажей», — сказал Руссинович, главный технический директор Microsoft Azure.
В другом исследовании ученые из Университета Вашингтона в Сиэтле, Университета Калифорнии в Беркли и Института Аллена по вопросам ИИ разработали новую языковую модель под названием Silo, которая может удалять данные, чтобы уменьшить юридические риски.
Исследователи использовали книги о Гарри Поттере, чтобы посмотреть, влияют ли отдельные фрагменты текста на производительность системы ИИ. Вывод был неутешительным: протестированная модель стала менее точной.
«Когда книги о Гарри Поттере удаляются из хранилища данных, растерянность (показатель эффективности ИИ, который демонстрирует, насколько хорошо модель прогнозирует выборку и распределяет вероятности — NV) становится еще хуже», — сказали исследователи.
