Гениально и просто. Anthropic придумала способ уменьшить количество галлюцинаций ИИ
Anthropic выпустила новую функцию для своего API под названием Citations, которая может уменьшить галлюцинации и другие ошибки в ответах искусственного интеллекта.
Anthropic говорит, что Citations позволяет ее моделям ИИ предоставлять подробные ссылки на «точные предложения и отрывки» из документов, которые они используют для создания ответов. Citations доступны как в API Anthropic, так и на платформе Vertex AI от Google.
Как объясняет Anthropic в заметке в блоге, с Citations разработчики могут добавлять исходные файлы, чтобы модели автоматически цитировали утверждения, которые они сделали из этих файлов. По словам представителей компании, цитаты особенно полезны для суммирования документов.
Citations доступны не для всех моделей Anthropic — только для Claude 3.5 Sonnet и Claude 3.5 Haiku. Кроме того, функция не бесплатная. Anthropic отмечает, что за цитирование может взиматься плата в зависимости от длины и количества исходных документов.
Как пишет TechCrunch, исходя из стандартной цены API Anthropic, которую использует Citations, 100-страничный исходный документ будет стоить около 0,30 долларов США с Claude 3.5 Sonnet или 0,08 долларов США с Claude 3.5 Haiku. Это может того стоить для разработчиков, которые стремятся уменьшить галлюцинации и другие ошибки, вызванные ИИ.
