Немецкая компания Aleph Alpha представила открытую модель искусственного интеллекта Kolibri, разработанную для регулируемых сфер. Она имеет 78 млрд параметров, из которых во время работы активны около 3 млрд, и поддерживает контекст объемом до миллиона токенов. Модель уже доступна для скачивания на платформе Hugging Face.
Kolibri создана как специализированная языковая модель для критически важных задач в государственном управлении, промышленности и аэрокосмической отрасли. Компания оптимизировала её для немецкого и английского языков, логического мышления, математики, агентного поведения и других задач, которые требуются клиентам в производственных сферах.
Одной из ключевых особенностей модели в Aleph Alpha называют её «суверенитет». Компания заявляет, что контролирует всю цепочку создания Kolibri — от получения и подготовки данных до предварительного и последующего обучения и итоговой оценки, а клиенты могут развертывать модель самостоятельно и сохранять контроль над собственными данными.
Kolibri разрабатывалась с учётом Закона ЕС об искусственном интеллекте, Кодекса практики для моделей общего назначения и Общего регламента по защите данных (General Data Protection Regulation, GDPR). По данным компании, модель была создана в Германии, обучалась на инфраструктуре Германии и Финляндии в соответствии с европейским и немецким законодательством и без иностранного контроля.
На что способна Kolibri
Модель использует 3 млрд активных параметров из 78 млрд общего числа, что, по утверждению Aleph Alpha, позволяет совместить производительность с относительно низкой стоимостью развертывания. Компания заявляет, что Kolibri находится на «границе Парето» по соотношению качества и стоимости обслуживания для английского и немецкого языков.
В тестах Kolibri показала конкурентоспособные результаты в математике, программировании, работе с длинным контекстом, агентных задачах и работе со знаниями. В частности, модель набрала 96,9% в AIME 2025 на английском языке, 96% в AIME 2026, 84,3% в GPQA Diamond и 85,9% в LiveCodeBench v6.
Особое внимание разработчики уделили немецкому языку. В предтренировке он составлял 21,3% токенов. Компания также использовала преимущественно органические немецкие данные вместо машинного перевода, чтобы сохранить языковой и культурный контекст.
Для работы с немецким и английским языками команда создала собственный двуязычный токенизатор. По словам разработчиков, он более эффективно сжимает немецкий текст, что позволяет использовать меньше токенов при обработке задач и сокращать затраты и время отклика.
Модель научили говорить «Я не знаю»
Одним из направлений разработки стало уменьшение галлюцинаций — случаев, когда модель генерирует ложную информацию вместо признания недостаточности данных. В Aleph Alpha подчеркивают, что для регулируемых сфер способность воздержаться от ответа при недостатке информации является важным условием для практического использования модели.
Для этого компания разработала собственную процедуру Merlin-Arthur, которая генерирует синтетические отрицательные примеры и обучает модель различать ситуации, когда ответ подтверждается контекстом, и случаи, когда нужно сказать «Я не знаю». По данным Aleph Alpha, Kolibri воздерживалась от неправильного ответа в 44% вопросов теста AA-Omniscience против 15% у Kolibri Origin.
По собственному показателю привязки к контексту M/A, который оценивает, насколько ответ основан на предоставленном документе, Kolibri получила 0,23 балла. Для Kolibri Origin этот показатель составил 0, тогда как у ряда других сравниваемых моделей он также равнялся нулю.
Создание Kolibri
Разработка модели длилась несколько месяцев и стала продолжением работы над Kolibri Origin. Её предварительное обучение завершилось 11 июня 2026 года, тогда как Kolibri завершила этот этап 11 сентября, а публичный релиз состоялся 3 октября.
За это время общий объем модели вырос с 30,6 млрд до 78,1 млрд параметров, количество обучающих токенов — с 7,51 трлн до 20 трлн, а максимальная длина контекста во время обучения — с 65 536 до 262 144 токенов. Для финальной версии также предусмотрели четыре уровня усилий для рассуждений — от отсутствующего до высокого, чтобы пользователи могли балансировать между скоростью, стоимостью и качеством ответа.
Во время основного обучения Kolibri использовала 768 графических процессоров B200. В целом модель прошла три этапа: 20 трлн токенов предварительного обучения с длиной последовательности 16 тысяч, 3,44 трлн токенов промежуточного обучения с контекстом длиной 64 тысячи и 200 млрд токенов адаптации к длинному контексту длиной 256 тысяч.
В течение 21 дня предварительного обучения команда зафиксировала 38 незапланированных прерываний из-за аппаратных сбоев или проблем с подключением. Конвейер автоматически перезапускал обучение на других узлах и возобновлял его с контрольной точки, которая находилась максимум на 250 шагов назад.
Для каких сфер предназначена модель
Aleph Alpha разработала отдельные внутренние тесты для государственного сектора Германии, авиации, производства, автомобильной промышленности и других специализированных отраслей. По данным компании, эти тесты позволяют оценивать не только общие возможности модели, но и то, насколько хорошо она работает с конкретными рабочими процессами и предметными знаниями.
В пяти тестовых заданиях Kolibri была лидером или находилась на одном уровне с лучшей сравниваемой моделью в четырёх случаях из пяти. Наивысший результат в этих тестах модель показала для поставщика автомобильной продукции — 99%, для полупроводников получила 80%, для немецкого государственного сектора — 75%, для аэрокосмической отрасли — 58%, а для технологий промышленных приводов — 60%.
Kolibri также поддерживает контекст до 1 млн токенов, хотя во время основного обучения самая длинная последовательность составляла 256 тысяч токенов. Компания отмечает, что для работы с контекстом более 262 144 токенов пользователям необходимо отдельно увеличить максимальную длину модели при развертывании.
Модель уже доступна на Hugging Face с открытыми весами по лицензии Apache 2.0. Для её запуска требуется пакет aleph-alpha-inference, который предоставляет плагин Kolibri для vLLM.
Напомним, что в прошлом месяце Украина предложила Европейскому Союзу использовать страну в качестве экспериментальной «песочницы» для тестирования технологий ИИ. В ходе переговоров в Берлине Министерство цифровой трансформации договорилось с немецкими партнерами о создании совместных команд для анализа украинского опыта цифровизации, в частности, функционирования госуслуг в приложении «Дія» и использования открытых ИИ-моделей в государственном секторе.
