Amazon робить потужний крок проти Nvidia за допомогою нового інструменту розробки TorchNeuron

Amazon Web Services випустила інструмент під назвою TorchNeuron , який дозволяє стартапам у сфері штучного інтелекту легко переносити свої програми штучного інтелекту на чіп Amazon Trainium. Роблячи це, Amazon також безпосередньо використовує програмну перевагу, яка допомогла Nvidia стати основним вибором обладнання для програм штучного інтелекту та стимулювала її зростання як постачальника обладнання для штучного інтелекту.

TorchNeuron працює з PyTorch, безкоштовним інструментарієм з відкритим кодом, який розробники використовують для створення, навчання та запуску моделей штучного інтелекту. За даними Amazon, він дозволяє програмам ШІ, написаним за допомогою PyTorch, запускатися на Trainium, змінюючи лише один рядок конфігурації — переписування коду не потрібне.

Amazon стверджує, що близько 85% програм штучного інтелекту написано за допомогою PyTorch. Спочатку його розробив Facebook, але з 2022 року він є частиною Linux Foundation, яка підтримує проекти з відкритим кодом. Nvidia роками забезпечувала безперебійну підтримку програм штучного інтелекту, написаних за допомогою PyTorch, своїм програмним забезпеченням CUDA — програмною інфраструктурою, яка дозволяє програмам працювати на графічних процесорах Nvidia та іншому обладнанні. В результаті апаратне забезпечення Nvidia тепер глибоко вбудоване в інструментарій, фактично за замовчуванням.

TorchNeuron адаптований з PyTorch, тому розробники, які знайомі з PyTorch, вже знають, як ним користуватися. Amazon — не перша компанія, яка намагається легко перенести свої чіпи на цю платформу. Користувачі PyTorch також можуть портувати свої програми на графічні процесори AMD або навіть чіпи Apple за допомогою простої зміни конфігурації.

Однак Amazon стверджує, що портування на Trainium не тільки просте, але й надає стартапам штучного інтелекту доступ до всієї хмари Amazon. Не дивно, що AWS стверджує, що це кращий вибір для стартапів, ніж використання неоклард, багато з яких пов'язані з Nvidia та її обладнанням, як-от CoreWeave, Nebius та Firmus.

«Ви будуєте на AWS. Ви не робите ставку на постачальника обчислювальних послуг одного призначення та не намагаєтеся побудувати все інше навколо нього», – сказав Колін Брейс, віце-президент з технологічного програмного забезпечення в AWS Annapurna Labs (підрозділ, який виробляє власні чіпи Amazon), електронною поштою. «В AWS, – продовжив він, – інфраструктура для переходу від прототипу до виробництва вже існує, що дозволяє засновнику швидко рухатися та масштабуватися, коли це необхідно».

AWS стверджує, що оскільки один і той самий чіп виконує як навчання (навчання моделі ШІ), так і логічний висновок (застосування готової моделі, наприклад, коли вона відповідає на запитання користувача), а також тісно інтегрований з хмарною інфраструктурою, яка потрібна стартапам, їхня хмара заощадить їм гроші, навіть якщо AWS не пропонує найнижчу ціну за токен.