Чип від OpenAI перевершив Nvidia: розробник ChatGPT переходить на власні процесори

Компанії OpenAI заявила, що її новий чип Jalapeno перевершив процесор Nvidia GB300 у двох ключових показниках продуктивності під час тестування. Розробник ChatGPT планує почати використовувати власні процесори для роботи моделей штучного інтелекту вже цього року, щоб знизити витрати на інфраструктуру, повідомив керівник підрозділу розробки чипів OpenAI Річард Хо в інтерв'ю Bloomberg. 

Новий процесор призначений для етапу inference — роботи вже навчених моделей із запитами користувачів, а не для їхнього навчання. Саме цей напрям OpenAI вважає критично важливим для масштабування сервісів на кшталт ChatGPT.

За словами Хо, Jalapeno продемонстрував кращу енергоефективність і швидкість відповідей порівняно з Nvidia GB300, який був лідером у системі публічного тестування, використаній у дослідженні. Розробник додав, що головна перевага Jalapeno полягає в поєднанні високої пропускної здатності та низької затримки, що зазвичай досягається різними типами чипів. 

Процесор споживає близько 700 Вт, що, за оцінками OpenAI, допоможе скоротити витрати центрів обробки даних на електроенергію. Компанія розраховує виконувати дедалі більше завдань власними чипами за умови масштабування виробництва Jalapeno.

OpenAI створила процесор у партнерстві з Broadcom. Компанії оголосили про співпрацю минулого року, а в червні повідомили, що розробка чипа завершилася у рекордні терміни.

Під час публічних тестів Jalapeno працював із відкритою моделлю OpenAI, а також із моделями китайських компаній DeepSeek і Moonshot AI. Найкращі результати він продемонстрував із Kimi від Moonshot — найбільшою моделлю серед тих, що використовувалися у випробуваннях.

У компанії також повідомили, що внутрішні тести показали високу продуктивність із ще не представленими великими мовними моделями OpenAI. У блозі компанії зазначили, що архітектура процесора “стає ціннішою в міру зростання обсягів і складності робочих навантажень”.

Водночас OpenAI визнає обмеження нового чипа. Jalapeno не тестували проти нового покоління процесорів Nvidia Vera Rubin, поставки яких лише розпочалися, а також він не призначений для навчання моделей — сегмента, де Nvidia залишається лідером ринку.

“Потреба в обчислювальних потужностях величезна, саме тому ми залучили так багато різних постачальників. І так триватиме ще певний час”, — зазначив Хо.

OpenAI вже працює над другим поколінням Jalapeno, яке планує передати у виробництво найближчими місяцями. Паралельно компанія розробляє концепцію третьої версії процесора, розраховуючи поступово зменшити вартість глобальної інфраструктури ШІ. І, попри амбітні плани, OpenAI називає Nvidia стратегічним партнером і не очікує швидкої заміни її рішень власними розробками.

Водночас Nvidia стрімко втрачає домінування на китайському ринку, де до запровадження експортних обмежень США контролювала близько 95% сегмента чипів для ШІ. Завдяки переходу розробників у Китаї на лінійку вітчизняних процесорів Ascend Huawei, частка китайської компанії на ринку ШІ-чипів зросте до близько 50%.