OpenAI представила чип Jalapeño, який у 1,9 раза ефективніший за прискорювачі

OpenAI представила свій новий чип під назвою Jalapeño, призначений для роботи з моделями штучного інтелекту. За даними компанії, цей чип забезпечує до 1,9 раза більше виконаної роботи на один ват енергії, а також знижує затримку в обробці запитів до 3,6 раза в порівнянні з існуючими системами-прискорювачами. Інформацію про це опублікувало видання Interesting Engineering.

Тестування та особливості чипа

Chip Jalapeño був протестований на декількох відкритих моделях, зокрема GPT-OSS 120B, DeepSeek R1 670B і Kimi K2.5 1T. Під час тестування чип показав у пікових режимах ефективність на ват у 1,5–1,9 раза вищу, ніж у порівнюваних систем. Затримка від початку обробки запиту до отримання результату була знижена в 1,7–3,6 раза. Для інтерактивних завдань продуктивність Jalapeño зросла у 2,1–4,1 раза.

Чип розрахований на потужність до 700 Вт, проте під час тестів стабільне споживання не перевищувало 550 Вт. Порівняння проводилися з комерційними системами-прискорювачами та відкритим тестом InferenceX від SemiAnalysis. Jalapeño має можливість зберігати дані про поточний стан моделі, включаючи кеш, ближче до обчислювальних ресурсів, а також мережеву систему, інтегровану безпосередньо в архітектуру чипа, що дозволяє зменшити обсяг даних, які потрібно передавати між чипами.

Розробка чипа Jalapeño тривала дев'ять місяців, а на підготовку конструкції до виробництва знадобилося ще два місяці для оптимізації роботи трьох відкритих моделей. У процесі розробки OpenAI використовувала власні моделі штучного інтелекту, такі як Codex і GPT-Astra. Для окремих блоків GPT-OSS, які відповідають за механізм уваги та суміш експертів, реалізації, створені за допомогою ШІ, продемонстрували швидкість у 1,5–1,8 раза вищу, ніж попередні версії, розроблені людьми.

OpenAI планує почати встановлювати чип Jalapeño у свою обчислювальну інфраструктуру до кінця 2026 року. Компанія також зазначає, що Jalapeño є першим поколінням довгострокової лінійки, і вже ведеться робота над другим та третім поколінням.

Випуск чипа Jalapeño є важливим кроком у розвитку технологій штучного інтелекту, оскільки він обіцяє значні покращення в продуктивності та енергоефективності. Це може сприяти більш швидкому та ефективному впровадженню AI-рішень у різних сферах, від бізнесу до науки. OpenAI, як один із лідерів у цій галузі, продовжує інвестувати у нові технології, що може мати далекосяжні наслідки для майбутнього штучного інтелекту та його застосувань.

У той час як OpenAI продовжує розвивати свої технології, компанія Anthropic також активізує зусилля у створенні власних чіпів для штучного інтелекту. Це свідчить про зростаючу конкуренцію на ринку, де інновації стають ключовими для досягнення ефективності та продуктивності в обробці даних.