Для складних завдань. Nvidia запускає нові чипи та платформи для прискорення штучного інтелекту

Про це пише видання Interesting Engineering.

Vera CPU створений спеціально для складних ШІ-навантажень. За словами Nvidia, він у 50% швидший і вдвічі ефективніший за звичайні серверні процесори. Один стійковий блок з 256 таких CPU може одночасно обслуговувати понад 22 тисячі ШІ-середовищ для навчання моделей або тестування агентів. Чип працює разом із GPU у платформі Vera Rubin, де CPU і GPU обмінюються даними через високошвидкісні інтерконекти.

Платформа Vera Rubin поєднує сім типів чипів для обчислень, мереж і зберігання даних, створюючи «ШІ-фабрики» — великі системи для генерації масових обчислень, необхідних сучасним моделям. Одна конфігурація NVL72 об'єднує 72 GPU і 36 CPU в одному стійковому блокові, забезпечуючи до чотирьох разів швидше навчання та в 10 разів ефективніший висновок моделей порівняно з попередніми системами.

Nvidia також планує використовувати свою платформу для космічних обчислень — у супутниках та орбітальних дата-центрах для обробки даних у реальному часі. Постачання систем на базі Vera CPU і Vera Rubin через партнерів розпочнеться у другій половині цього року.

Jensen Huang, засновник і CEO Nvidia, зазначив: «CPU більше не просто підтримує модель, він її керує. Vera відкриває ШІ-системи, які мислять швидше і масштабуються ефективніше».