Процессоры AMD Ryzen и видеокарты Radeon RX 7000 можно использовать для запуска локального чат-бота с ИИ

Недавно компания Nvidia представила Chat with RTX для создания персонализированных чат-ботов на базе искусственного интеллекта.

Особенностью этого варианта является полностью локализованная на ПК версия, где все вычисления производит видеокарта Ge.

Force RTX 40-й или 30-й серии.

В ответ компания AMD объявила об аналогичных возможностях своих видеокарт и процессоров.

Речь идет не о каком-то отдельном программном решении, а о развертывании бесплатного программного приложения LM Studio с настройками под аппаратные решения AMD.

В блоге AMD появилась инструкция по запуску такого чат-бота на базе языковой модели LLAMA и других языковых моделей.

Для запуска необходимо скачать подходящую версию LM Studio, запустить на ПК, выбрать языковую модель и соответствующее оборудование AMD.

Для ускорения ИИ нужна система на базе мобильных Ryzen 7000 и Ryzen 8000 с блоком NPU XDNA или ПК с видеокартой серии Radeon RX 7000, которые будут выполнять необходимые вычисления.

Это значительно ускорит и упростит работу с LM Studio и локальным ИИ.

Поэтому отсутствие Ge.

Force RTX не является приговором, и при наличии Radeon вы тоже имеете возможность для экспериментов с ИИ.