Для сложных задач. Nvidia запускает новые чипы и платформы для ускорения искусственного интеллекта

Об этом пишет издание Interesting Engineering.

Vera CPU создан специально для сложных ИИ-нагрузок. По словам Nvidia, он в 50% быстрее и вдвое эффективнее обычных серверных процессоров. Один стоечный блок из 256 таких CPU может одновременно обслуживать более 22 тысяч ИИ-среды для обучения моделей или тестирования агентов. Чип работает вместе с GPU в платформе Vera Rubin, где CPU и GPU обмениваются данными через высокоскоростные интерконнекты.

Платформа Vera Rubin объединяет семь типов чипов для вычислений, сетей и хранения данных, создавая «ИИ-фабрики» — большие системы для генерации массовых вычислений, необходимых современным моделям. Одна конфигурация NVL72 объединяет 72 GPU и 36 CPU в одном стоечном блоке, обеспечивая до четырех раз более быстрое обучение и в 10 раз более эффективный вывод моделей по сравнению с предыдущими системами.

Nvidia также планирует использовать свою платформу для космических вычислений — в спутниках и орбитальных дата-центрах для обработки данных в реальном времени. Поставки систем на базе Vera CPU и Vera Rubin через партнеров начнутся во второй половине этого года.

Jensen Huang, основатель и CEO Nvidia, отметил: «CPU больше не просто поддерживает модель, он ее управляет. Vera открывает ИИ-системы, которые мыслят быстрее и масштабируются эффективнее».