По просьбам учащихся выложил полный гайд по работе с Hugging Face, где в итоге вы можете выложить свою LLM и показать её вашему будущему работодателю ))
В модуле научимся:
- разбираться, что лежит в репозитории модели и почему веса хранят в safetensors;
- открывать GPT-2 и узнавать в ней те же слои, что написали сами;
- генерировать текст через generate() и говорить с чат-моделью через chat template;
- сжимать модель квантизацией в int8: с 26 до 7 МБ, а ответы те же;
- публиковать свою модель на Hugging Face и скачивать её обратно.
Курс со скидкой 20% (до 15 октября 2026) для подписчиков можно приобрести здесь: https://stepik.org/a/276236?promo=7fc3bb04c5ceb252
Саму simple-llm-barsik можно глянуть на hf: https://huggingface.co/petrovyuri/simple-llm-barsik
Post #1235
190

- ❤ 1
- 🔥 1