Держите неплохой лайфхак по запуску локалок 😆
Скормите Codex CLI эту статью от Ахмеда и попросите:
- определи подходящий inference engine под моё железо
- настрой проект через uv + venv
- подбери нужные kernels
- подкрути flags, batching, KVCache и другие параметры
- оптимизируй запуск под мою модель и железо
Легко.
Post #3354
20.1K
