Aleph Alpha представила Kolibri: суверенная LLM для немецкого языка

Компания Aleph Alpha выпустила Kolibri — открытую модель, созданную для работы с немецким и английским языками. Это Mixture-of-Experts модель на 78 млрд параметров, которая при генерации каждого токена задействует лишь 3,5 млрд. Она разработана с учетом европейского законодательства и требований к конфиденциальности данных.

Главные особенности Kolibri:

• Суверенитет: обучение проходило исключительно на инфраструктуре в Германии и Финляндии без иностранного контроля.
• Эффективность: специальный токенайзер UniBPE лучше справляется с длинными немецкими словами, требуя на 15% меньше токенов.
• Честность: модель обучена признавать, если она не знает ответа, что снижает риск галлюцинаций.
• Контекст: поддерживает до 1 млн токенов, эффективно работая с длинными документами.
• Гибкость: пользователь может настраивать глубину рассуждений (reasoning_effort).

рекомендуем:
@GQJournalRussia