С удовольствием прочёл сегодня публикацию "Дообучил pretrain ruGPT3 XL 1.3B до уровня LLM (~2020 год, ChatGPT выйдет через 2 года). Сравнение с Gemma3 1B 2025 года" на Хабр от того же автора который про модель habrGPT 0.5B писал.
Там он использовал ruGPT3XL которую я конвертил из весов MegatronML, приятно видеть, что плоды моих трудов востребованы.
PS. По традиции приглашаю всех поставить лайк на Хабре под этой публикацией, такой контент нам нужен.
Post #1830
2.12K
- 👍 17
- ❤ 3
- 😁 1