Nvidia анонсувала прискорювач H200 зі 141 ГБ пам'яті HBM3e

У рамках конференції Supercomputing 2023 відбулася презентація прискорювача обчислень Nvidia H200.

Він базується на архітектурі Hopper та є оновленою версією моделі H100.

Головна особливість новинки полягає в переході на більш високошвидкісні та місткі мікросхеми пам'яті HBM3e.

Завдяки цьому вона забезпечує кращу продуктивність при роботі з нейромережами, на кшталт великих мовних моделей.

Детальні специфікації H200 «зелені» не розкривають, але, судячи з заявленої грубої обчислювальної потужності, в основі прискорювача лежить той же процесор, що і в H100.

У той самий час обсяг буфера зріс з 80 до 141 ГБ, а його пропускна здатність — з 3,35 до 4,8 Тбайт/с.

Цей апгрейд, наприклад, покращив продуктивність під час роботи з навченою моделлю GPT-3 в 1,6 раза.

Разом з новим прискорювачем було представлено платформу Nvidia HGX H200.

Одна така станція використовуватиме чотири або вісім H200, пропонуючи сумарно до 1,1 ТБ високошвидкісної пам'яті HBM3e.

Постачання нових ШІ-прискорювачів розпочнеться у другому кварталі наступного року.