«Суверенный» ИИ для Европы: немецкая компания Aleph Alpha выпустила открытую модель Kolibri
«Суверенный» ИИ для Европы: немецкая компания Aleph Alpha выпустила открытую модель Kolibri

«Суверенный» ИИ для Европы: немецкая компания Aleph Alpha выпустила открытую модель Kolibri

Модель ориентирована на государственный сектор, промышленность и аэрокосмическую отрасль Германии и Европы.  

Немецкая компания Aleph Alpha представила открытую модель искусственного интеллекта Kolibri, разработанную для регулируемых сфер. Она имеет 78 млрд параметров, из которых во время работы активны около 3 млрд, и поддерживает контекст объемом до миллиона токенов. Модель уже доступна для скачивания на платформе Hugging Face.

Kolibri создана как специализированная языковая модель для критически важных задач в государственном управлении, промышленности и аэрокосмической отрасли. Компания оптимизировала её для немецкого и английского языков, логического мышления, математики, агентного поведения и других задач, которые требуются клиентам в производственных сферах.

Одной из ключевых особенностей модели в Aleph Alpha называют её «суверенитет». Компания заявляет, что контролирует всю цепочку создания Kolibri — от получения и подготовки данных до предварительного и последующего обучения и итоговой оценки, а клиенты могут развертывать модель самостоятельно и сохранять контроль над собственными данными.

Kolibri разрабатывалась с учётом Закона ЕС об искусственном интеллекте, Кодекса практики для моделей общего назначения и Общего регламента по защите данных (General Data Protection Regulation, GDPR). По данным компании, модель была создана в Германии, обучалась на инфраструктуре Германии и Финляндии в соответствии с европейским и немецким законодательством и без иностранного контроля.

На что способна Kolibri

Модель использует 3 млрд активных параметров из 78 млрд общего числа, что, по утверждению Aleph Alpha, позволяет совместить производительность с относительно низкой стоимостью развертывания. Компания заявляет, что Kolibri находится на «границе Парето» по соотношению качества и стоимости обслуживания для английского и немецкого языков.

В тестах Kolibri показала конкурентоспособные результаты в математике, программировании, работе с длинным контекстом, агентных задачах и работе со знаниями. В частности, модель набрала 96,9% в AIME 2025 на английском языке, 96% в AIME 2026, 84,3% в GPQA Diamond и 85,9% в LiveCodeBench v6.

Особое внимание разработчики уделили немецкому языку. В предтренировке он составлял 21,3% токенов. Компания также использовала преимущественно органические немецкие данные вместо машинного перевода, чтобы сохранить языковой и культурный контекст.

Для работы с немецким и английским языками команда создала собственный двуязычный токенизатор. По словам разработчиков, он более эффективно сжимает немецкий текст, что позволяет использовать меньше токенов при обработке задач и сокращать затраты и время отклика.

Модель научили говорить «Я не знаю»

Одним из направлений разработки стало уменьшение галлюцинаций — случаев, когда модель генерирует ложную информацию вместо признания недостаточности данных. В Aleph Alpha подчеркивают, что для регулируемых сфер способность воздержаться от ответа при недостатке информации является важным условием для практического использования модели.

Для этого компания разработала собственную процедуру Merlin-Arthur, которая генерирует синтетические отрицательные примеры и обучает модель различать ситуации, когда ответ подтверждается контекстом, и случаи, когда нужно сказать «Я не знаю». По данным Aleph Alpha, Kolibri воздерживалась от неправильного ответа в 44% вопросов теста AA-Omniscience против 15% у Kolibri Origin.

По собственному показателю привязки к контексту M/A, который оценивает, насколько ответ основан на предоставленном документе, Kolibri получила 0,23 балла. Для Kolibri Origin этот показатель составил 0, тогда как у ряда других сравниваемых моделей он также равнялся нулю.


Создание Kolibri

Разработка модели длилась несколько месяцев и стала продолжением работы над Kolibri Origin. Её предварительное обучение завершилось 11 июня 2026 года, тогда как Kolibri завершила этот этап 11 сентября, а публичный релиз состоялся 3 октября.

За это время общий объем модели вырос с 30,6 млрд до 78,1 млрд параметров, количество обучающих токенов — с 7,51 трлн до 20 трлн, а максимальная длина контекста во время обучения — с 65 536 до 262 144 токенов. Для финальной версии также предусмотрели четыре уровня усилий для рассуждений — от отсутствующего до высокого, чтобы пользователи могли балансировать между скоростью, стоимостью и качеством ответа.

Во время основного обучения Kolibri использовала 768 графических процессоров B200. В целом модель прошла три этапа: 20 трлн токенов предварительного обучения с длиной последовательности 16 тысяч, 3,44 трлн токенов промежуточного обучения с контекстом длиной 64 тысячи и 200 млрд токенов адаптации к длинному контексту длиной 256 тысяч.

В течение 21 дня предварительного обучения команда зафиксировала 38 незапланированных прерываний из-за аппаратных сбоев или проблем с подключением. Конвейер автоматически перезапускал обучение на других узлах и возобновлял его с контрольной точки, которая находилась максимум на 250 шагов назад.

Для каких сфер предназначена модель

Aleph Alpha разработала отдельные внутренние тесты для государственного сектора Германии, авиации, производства, автомобильной промышленности и других специализированных отраслей. По данным компании, эти тесты позволяют оценивать не только общие возможности модели, но и то, насколько хорошо она работает с конкретными рабочими процессами и предметными знаниями.

В пяти тестовых заданиях Kolibri была лидером или находилась на одном уровне с лучшей сравниваемой моделью в четырёх случаях из пяти. Наивысший результат в этих тестах модель показала для поставщика автомобильной продукции — 99%, для полупроводников получила 80%, для немецкого государственного сектора — 75%, для аэрокосмической отрасли — 58%, а для технологий промышленных приводов — 60%.


Kolibri также поддерживает контекст до 1 млн токенов, хотя во время основного обучения самая длинная последовательность составляла 256 тысяч токенов. Компания отмечает, что для работы с контекстом более 262 144 токенов пользователям необходимо отдельно увеличить максимальную длину модели при развертывании.

Модель уже доступна на Hugging Face с открытыми весами по лицензии Apache 2.0. Для её запуска требуется пакет aleph-alpha-inference, который предоставляет плагин Kolibri для vLLM.

Напомним, что в прошлом месяце Украина предложила Европейскому Союзу использовать страну в качестве экспериментальной «песочницы» для тестирования технологий ИИ. В ходе переговоров в Берлине Министерство цифровой трансформации договорилось с немецкими партнерами о создании совместных команд для анализа украинского опыта цифровизации, в частности, функционирования госуслуг в приложении «Дія» и использования открытых ИИ-моделей в государственном секторе.

Источник материала
loader
loader