Moonshot AI, как и обещали, дропнули в open-source свою топовую нейронку.

https://huggingface.co/moonshotai/Kimi-K3

Что реально интересно:
1. Первая в мире открытая модель класса 3T — 2,8 триллиона параметров.
2. Революционная архитектура внимания. Модель построена на новых механизмах Kimi Delta Attention и Attention Residuals (надо будет на курсе изучить эти подходы).
3. Встроенный автономный агент для разработки.
4. Нативная мультимодальность + 1 миллион токенов. Модель из коробки понимает текст, изображения и видео в рамках единого контекстного окна

В итоге это полноценный автономный инженер-агент с триллионами параметров, нативным зрением, которая за раз может взять контекст огромного репозитория и которая теперь официально доступна сообществу.

😄 где то вместе грустят антропики и openai