Nvidia випустила інструмент Chat with RTX для створення персоналізованого чат-бота з ШІ

Nvidia представила власну альтернативу популярним чат-ботам на базі штучного інтелекту — Chat with RTX.

Як неважко зрозуміти з назви, він використовує обчислювальні можливості графічних прискорювачів Ge.

Force RTX.

Головною особливістю є робота безпосередньо на комп'ютері користувача разом із можливістю персоналізації великої мовної моделі.

В основі Chat with RTX лежать бібліотека Nvidia TensorRT-LLM та метод RAG (Retrieval Augmented Generation) для заповнення прогалин у «знаннях» великої мовної моделі.

Користувачі можуть додати власні нотатки, документи, відео та інші дані, наприклад, отримати відповідь на основі інформації з You.

«А оскільки програма працює локально на ПК або робочій станції Windows з RTX, результати генеруються швидко і безпечно», — підкреслює Nvidia.

Завантажити Chat with RTX можна з офіційного сайту Nvidia.

У системних вимогах згадуються адаптери Ge.

Force RTX 30- та 40-ї серії, обладнані як мінімум 8-гігабайтним відеобуфером, тобто нещодавно випущена Ge.

Force RTX 3050 6GB не підійде.

Також знадобляться 16 Гбайт оперативної пам'яті, операційна система Windows 11 та драйвер версії 535.11 або новіший.