Kioxia готовит SSD, в три раза быстрее любого существующего

Новый XL-Flash SSD от Kioxia получит скорость более 10 млн IOPS в рабочих нагрузках с малыми блоками. Это в три раза быстрее, чем пиковая скорость современных SSD.

Компания сообщила о разработке на корпоративной стратегической встрече в начале прошлой недели. Одним из узких мест производительности современных серверов искусственного интеллекта является передача данных между хранилищем и GPU с помощью центрального процессора, которое значительно увеличивает задержки. Kioxia разрабатывает новый контроллер, приспособленный именно для максимизации IOPS, который обеспечит графическим чипам постоянную 100% загрузку из-за быстрого доступа к данным.

Предложенный AI SSD будет использовать одноуровневую флешпамять XL-Flash (SLC), которая имеет задержку задержкой чтения всего от 3 до 5 микросекунд. Современные накопители на основе обычной 3D NAND предлагают от 40 до 100 микросекунд. также хранение одного бита на ячейку в SLC обеспечивает меньшее время доступа и большую выносливость, критические для задач ИИ.

Современные высокопроизводительные SSD для ЦОД обычно достигают от 2 до 3 млн IOPS, как в операциях случайного чтения 4 КБ, так и с 512 Б. Большие языковые модели обычно выполняют небольшие случайные обращения для выбора данных, параметров или записей базы. В этих сценариях меньшие блоки работают лучше, поэтому есть смысл использовать блоки 512 Б для работы моделей LLM и RAG.

AI SSD от Kioxia также будет оптимизирован для одноранговой связи между GPU и накопителем вне участия центрального процессора. Графические процессоры обычно работают с сопоставимыми интересами кэша памяти, поэтому считывание 512 Б лучше согласуется их конфигурациями. Выпуск Kioxia AI SSD запланирован на вторую половину 2026 года.

Источник: Tom`s Hardware