Український чат-бот Lapathoniia: перше знайомство

Як ви розумієте, я не міг пройти повз такої події, як поява першої української нейромережі – чат-бота Lapathoniia. Протестував. Ділюся враженнями.

Одразу застережу: заяви про те, що це «Український Chat GPT» – залиште дешевій пресі. Поки це скромний чат-бот в режимі тестування. Відповідає швидко, дизайн мені дуже сподобався – виграє у будь-кого з лідерів ринку. (Але це моя суб'єктивна думка.) Користувачеві доступні дві мовні моделі: MamayLM і Lapa LLM. Втім, називати їх «українськими» не варто – це Gemma 3 12B від корпорації Google, якій «згодували» величезну кількість контенту українською мовою.

Gemma 3 – це третє покоління відкритої малої мовної моделі від Google (сімейство Gemma), засноване на архітектурі Gemini 2.0. «12B» означає розмір моделі за кількістю параметрів: 12 мільярдів, тобто модель відноситься до середнього класу, потужнішого, ніж версії 1B і 4B, але менш «важкого», ніж 27B. На практиці це означає, що така модель зазвичай мультимодальна (обробляє текст і зображення) і підтримує понад 140 мов. Контекстне вікно у Gemma 3 12B зазвичай до 128 тис. токенів, тобто модель добре справляється з обробкою довгих документів, переписок і складних завдань аналізу. Правда, поки в Lapathoniia заявлено тільки до 32 000 токенів по запиту, включаючи вхідний контекст і відповідь. Доступні три функції: веб-пошук, «глибоке дослідження» і «прикріпити файл». Користувацьких налаштувань немає в принципі, як і акаунта користувача.

Протестувати можна тут: https://chat.lapathoniia.top