Для обучения моделей ИИ. NVIDIA анонсировала суперкомпьютерные чипы со сверхбыстрой памятью

Ключевым анонсированным продуктом стал графический процессор HGX H200 на основе архитектуры Hopper от NVIDIA (той же, что и у предыдущего H100, представленного почти два года назад).

H200 стал первым графическим процессором, который предлагает HBM3e — сверхбыструю память от южнокорейского чипмейкера SK hynix. Как говорится в анонсе NVIDIA, с HBM3e H200 получил 141 ГБ памяти со скоростью 4,8 терабайт в секунду. Это почти вдвое большая емкость и в 2,4 раза большая пропускная способность, чем у NVIDIA A100. Такая память позволяет использовать H200 для ускорения генеративного ИИ и больших языковых моделей.

«Для создания интеллекта с помощью генеративных приложений ИИ и высокопроизводительных вычислений (HPC) огромные объемы данных должны эффективно обрабатываться на высокой скорости с помощью большой и быстрой памяти графического процессора. Благодаря NVIDIA H200 … удалось решить некоторые из важнейших мировых проблем», — утверждает вице-президент NVIDIA Ян Бак.

В компании отмечают, что представленная технология «готова к использованию в центрах обработки данных и суперкомпьютерах — для работы над такими задачами, как прогнозирование погоды и климата, открытие лекарств, квантовые вычисления и т. д.». Кроме этого, в NVIDIA акцентируют, что благодаря параметрам H200 можно развертывать в любом центре обработки данных, в том числе облачном. 

Предполагается, что NVIDIA H200 будет доступен для мировых производителей систем и поставщиков облачных услуг начиная со второго квартала 2024 года. Amazon Web Services, Google Cloud, Microsoft Azure и Oracle Cloud Infrastructure станут одними из первых его владельцев.

Ранее NV Техно писал, что NVIDIA стала одним из главных бенефициаров бума искусственного интеллекта. Эксперты ожидали, что компания продаст более 500 тысяч новых видеокарт Н100 для ИИ в этом году.