Эксперимент провалился. Создатели ChatGPT закрыли инструмент для обнаружения контента на основе ИИ
Нейросети совершенствуются и уже генерируют контент, который сложно отличить от человеческого. Даже OpenAI, компания-разработчик ChatGPT, потерпела поражение на этом поприще. Она закрыла инструмент, призванный отделять работы ИИ от остальных.
Утилита OpenAI называлась AI Classifier. Ее главная задачей состояла в определении оригинальности текста. Предполагалось, что инструмент сможет указывать на произведения, которые написаны с использованием искусственного интеллекта. Это важная задача, особенно в сфере обучения.
Преподаватели неоднократно выражали публичное недовольство доступностью чат-ботов для школьников и студентов, которые применяют их в своих работах. AI Classifier должен был стать инструментом, который помог бы справедливо оценивать тексты. Но даже во время анонса этой утилиты OpenAI указывала на низкую результативность. Компания честно призналась, что AI Classifier смог определить использование ИИ при написании текстов только в 26% случаев.
Показатели не смогли улучшить, из-за чего OpenAI приняла решение закрыть проект. Причем об этом упомянули лишь на странице, посвященной инструменту. Отдельное заявление компания не выпускала.
«Мы работаем над учетом отзывов и в настоящее время исследуем более эффективные методы подтверждения подлинности текста, а также взяли на себя обязательство разработать и внедрить механизмы, которые позволят пользователям понять, является ли аудио- или визуальный контент сгенерированным искусственным интеллектом», — написали представители OpenAI.
Напомним, вместе с ростом искусственного интеллекта появляются технологии, которые противодействуют ИИ. Сюда относится разработка Массачусетского технологического института под названием PhotoGuard. Она не позволяет нейросетям проводить операции с изображениями.
