Celestial AI разработала оптический интерконнект, чтобы объединить HBM и DDR5

Компания Celestial AI разработала новую технологию Photonic Fabric для высокоскоростного соединения внутри сложных чипов и между отдельными чипами.

Разные производители предлагают свои способы межузловых соединений.

У Nvidia есть скоростная шина NVLink, у AMD Infinity Fabric, и даже классический Ethernet продолжает развиваться и предлагает все более высокие скорости.

Celestial AI изначально создавала универсальный скоростной интерконнект на основе фотоники, который может использоваться для соединений в рамках чипа и межузловых скоростных соединений.

Основной проблемой скоростных интерфейсов является потеря пропускной способности за пределами единого полупроводникового чипа.

Есть производительная память HBM, но она жестко привязана к вычислительному чипу.

Celestial AI предлагает альтернативу в лице Photonic Fabric на базе технологий кремниевой фотоники.

Это сочетание кремниево-оптических соединений, интерпозеров и чиплетов.

Применение новой технологии может серьезно увеличить объем памяти и ее пропускную способность в вычислительных устройствах для ИИ.

Компания уже привлекла интерес со стороны крупных компаний, включая AMD.

На данном этапе основной интерес разработчиков чипов вызывает возможность создания новых чиплетов с применением технологий Celestial AI.

Разработанные компанией модули памяти с оптико-электрическим соединением способны обеспечить пропускную способность 14,4 Тбит/сек (1,8 Тбайт/сек).

При этом по размерам новые модули не отличаются от стандартных стеков HBM.

И это не предел, а лишь первая реализация технологии с учетом возможностей современных чипов.

В дальнейшем пропускную способность можно будет серьезно увеличить.

При этом использование HBM все равно создает узкие места в доступе к большим объемам данных.

Компания предлагает использовать свои скоростные соединения для создания чиплета с двумя стеками HBM общим объемом 72 ГБ и четырьмя модулями DDR5 объемом до 2 ТБ.

В таком случае получается чип с кэшем HBM и сквозным доступом к DDR5.

Также применение таких технологий уменьшает общее энергопотребление.

Согласно оценкам разработчиков, затраты энергии на транзакцию с памятью составляют около 6,2 пикоджоулей на бит вместо примерно 62,5 пикоджоулей при исопльзовании NVLink и NVSwitch для удаленной транзакции с памятью.

Технологию Photonic Fabric можно использовать для скоростных соединений между чипами, аналогично интерфейсу NVLink.

В теории можно создать вычислительную систему, где все чипы будут объединены одним высокоскоростным оптическим интерконнектом.

Среди компаний, которые финансируют разработки Celestial AI, числится AMD.

И красная корпорация может одной из первых внедрить новые технологии в свои будущие чипы с чиплетным дизайном.

Сам глава Celestial AI считает, что первые образцы чипов с Photonic Fabric появятся в 2025 году, а массовое коммерческое внедрение начнется не ранее 2027 года.

К тому времени на рынке появятся аналогичные технологии от конкурентов.

В частности, есть Ayar Labs, которая занимается кремниевой фотоникой.

Эта компания получила финансовую поддержку от Intel и уже показала свой первый прототип оптического интерконнекта.

The Next Platform.

Celestial AI.