Google приєднався до Amazon у атаці на Nvidia

Google оголосила , що TorchTPU, довгоочікувана версія PyTorch, тепер доступна як проєкт з відкритим кодом. Таким чином, Google приєднується до Amazon у спробі зламати монополію Nvidia в індустрії штучного інтелекту, де більшість програм штучного інтелекту за замовчуванням пишуться для роботи на чіпах Nvidia або графічних процесорах.

PyTorch – це популярний набір інструментів з відкритим кодом, який розробники додатків штучного інтелекту та стартапи використовують для створення, навчання та запуску моделей штучного інтелекту. За деякими даними, його використовують 85% додатків штучного інтелекту. PyTorch був спочатку розроблений Meta (тоді Facebook) у 2016 році, задовго до того, як світ мав хоч найменше уявлення про те, що LLM (магістр права) змінить світ. У той час графічні процесори Nvidia вже були стандартним обладнанням для досліджень у галузі штучного інтелекту, тому багато функцій PyTorch були створені спеціально для роботи з ними. У 2022 році Meta передала PyTorch Linux Foundation, некомерційній організації, яка керує багатьма важливими проектами з відкритим кодом.

Версія від Google, TorchTPU, дозволяє запускати додатки штучного інтелекту на власних технологіях штучного інтелекту, які називаються тензорними процесорами (TPU). Це також спрощує перенесення існуючих додатків PyTorch на TPU, а отже, і до Google Cloud. Розробники можуть зробити це за допомогою простої зміни конфігурації, без переписування своїх додатків.

Amazon зробила аналогічну заяву в понеділок, коли випустила власну версію PyTorch під назвою TorchNeuron. TorchNeuron дозволяє портувати програми штучного інтелекту на власний чіп Amazon для штучного інтелекту Trainium та на AWS без переписування. Amazon також заявила, що йде ще далі у своїх зусиллях послабити вплив Nvidia на PyTorch. Вона надсилає код до основного проекту PyTorch, який відокремлює різні функції від чіпів Nvidia, роблячи його більш відкритим для будь-якого обладнання за замовчуванням.

Однак Google може перевершити Amazon у кількох аспектах. Компанія стверджує, що безпосередньо співпрацювала з Meta, Hugging Face, Inferact (розробник vLLM), RadixArk (розробник SGLang) та іншими, щоб забезпечити належну роботу функцій та бібліотек коду TorchTPU з цими популярними інструментами розробки штучного інтелекту, як це робить оригінальний PyTorch.

Крім того, пошуковий гігант запустив спеціальний інструмент, пакет агентів TPU , щоб допомогти розробникам перенести свої програми на чіпи та хмару Google та виправити помилки в процесі. Він навіть оновив свій популярний інструмент LiteRT, який запускає штучний інтелект на телефонах, ноутбуках та вбудованих пристроях, щоб краще працювати з програмами PyTorch на базі штучного інтелекту.

Ніщо з цього не означає, що розробники додатків на базі штучного інтелекту автоматично масово відмовляться від обладнання Nvidia лише тому, що тепер вони можуть легко перейти на альтернативні чіпи та хмарні технології. Але Amazon та Google явно працюють над тим, щоб позбавити Nvidia переваги.