Новая память Samsung HBM-PIM имеет встроенный сопроцессор

Samsung во время выступления на конференции ISSCC 2021 рассказала про новый тип ОЗУ на основе многослойной памяти HBM2, оснащенный встроенным AI-процессором с теоретической вычислительной мощностью 1,2 терафлопс.

Такое решение носит название HBM-PIM и позволяет «умной» памяти самостоятельно выполнять операции, которые обычно зарезервированы для CPU, GPU, ASIC или FPGA.

Инновационный класс памяти предназначен для облегчения миграции данных между памятью и процессорами, что часто является более дорогостоящим с точки зрения энергопотребления и времени, чем фактические вычислительные операции.

Samsung заявляет, что применительно к существующей памяти HBM2 Aquabolt эта технология может обеспечить вдвое большую производительность системы при одновременном снижении энергопотребления более чем на 70%.

Еще один немаловажный момент, HBM-PIM не требует каких-либо изменений в программном или аппаратном обеспечении (в том числе в контроллерах памяти), что значительно ускорит и упростит вывод технологии на рынок.

Samsung заявляет, что память уже проходит испытания в ускорителях искусственного интеллекта, в том числе у внешних партнёров.

Компания ожидает, что все предварительные этапы будут завершены в первой половине 2021 года.

С точки зрения архитектуры, каждый банк памяти имеет встроенный программируемый вычислительный блок (Programmable Computing Unit — PCU), функционирующий на частоте 300 МГц.

Память может работать либо в стандартном режиме HBM2, либо в режиме PIM (processing-in-memory) для обработки данных.

Можно отметить, что на слайдах технология носит название FIMDRAM (function-in-memory) но в общую доступность пойдет именно как HBM-PIM.

Очевидно, внедрение блоков PCU снижает полезный объем памяти — каждый кристалл с PCU имеет половинную емкость (4 Гбит) по сравнению со стандартным кристаллом HBM2 (8 Гбит).

Чтобы решить эту проблему, Samsung использует стеки по 6 ГБ, объединив четыре кристалла 4 Гбит с PCU с четырьмя кристаллами 8 Гбит без модулей PCU.

Возвращаясь к HBM2, стандартный стек имеет объём 8 ГБ из восьми кристаллов 8 Гбит.

Квангил Парк, старший вице-президент подразделения Memory Product Planning в Samsung Electronics, заявил: «Наш новаторская память HBM-PIM — первое в отрасли программируемое решение PIM, адаптированное для различных рабочих нагрузок, управляемых ИИ, таких как высокопроизводительные вычисления, машинное обучение и другие ИИ-операции.

Мы планируем развивать технологию за счет дальнейшего сотрудничества с поставщиками решений ИИ для продвинутых приложений на основе PIM».

Tom's Hardware.