До 128 ГБ пам'яті і 1 петафлопс: NVIDIA RTX Spark запускає ШІ без хмари

Під час проведення спеціальної презентації Windows & Surface корпорація Microsoft поділилася додатковими подробицями про платформу NVIDIA RTX Spark.

Характеристики NVIDIA RTX Spark

Платформа NVIDIA RTX Spark поєднує обчислювальні Arm ядра NVIDIA Grace з графічним процесором Blackwell RTX (з нативною підтримкою CUDA) та оперативною пам’яттю. Вона розрахована на локальну роботу зі штучним інтелектом. CPU та GPU об’єднані за допомогою NVLink C2C.

Головна перевага RTX Spark — робота з великими моделями штучного інтелекту без підключення до хмарних сервісів. Продуктивність топового чипа для завдань ШІ сягає 1 петафлопса. Система здатна запускати локальні моделі зі 120 млрд і більше параметрів без хмарних сервісів.

Чип NVIDIA RTX Spark став основою нового ноутбука Microsoft Surface Laptop Ultra. Інші виробники комп’ютерної техніки також готуються вивести на ринок власні моделі на базі нової платформи.

Новина доповнюється…