Улучшенная на 87%. Google выпустила ИИ-модель нового поколения Gemini 1.5 нового поколения
IT-индустрия18 февраля 2024, 08:30
Новая версия Gemini 1.5, доступная для разработчиков и корпоративных клиентов Google, имеет стандартное контекстное окно 128 000 токенов. Для сравнения, Gemini 1.0 ограничена 32 тысячами токенов. Модели от конкурентов GPT-4 Turbo от OpenAI и Claude 2.1 от Anthropic предлагают 128 и 200 тысяч токенов соответственно.
«После тестирования на комплексной панели оценивания текста, кода, изображений, аудио и видео 1.5 Pro превосходит 1.0 Pro по 87% тестов, которые используются для разработки наших больших языковых моделей (LLM)», — утверждают в Google.
Определенная группа разработчиков и корпоративных клиентов сможет воспользоваться Gemini 1.5 с ограничением контекстного окна до 1 миллиона токенов, что эквивалентно обработке более 700 тысяч слов, кодовой базы из более 30 тысяч строк кода, 11 часам аудио или 1 часу видео.
«1.5 Pro может выполнять сверхсложные задачи понимания и рассуждения для различных модальностей, включая видео. Например, получив 44-минутный немой фильм Бастера Китона, модель может точно проанализировать различные сюжетные моменты и события и даже рассуждать о мелких деталях в фильме, которые можно легко пропустить», — говорят в Google.
Эти достижения стали возможными благодаря новой архитектуре Mixture-of-Experts (MoE). В зависимости от типа предоставленных входных данных, модели MoE учатся выборочно активировать только наиболее релевантные пути в своей нейронной сети. Сейчас компания работает над оптимизацией работы обновленной ИИ-модели, чтобы «улучшить задержку, уменьшить вычислительные требования и улучшить взаимодействие с пользователем».
Напомним, ранее в этом месяце Google выпустила обновленную версию своего чат-бота Bard с улучшенной моделью искусственного интеллекта Gemini Ultra. Сам чат-бот при этом был переименован с Bard на Gemini. В то же время было запущено специальное приложение Google Gemini для Android и обновлено приложение Google для iOS.