Нашёл для своих целей интересную SLMку, txt2json. Osmosis-Structure-0.6B is a specialized small language model (SLM) designed to excel at structured output generation.
https://huggingface.co/osmosis-ai/Osmosis-Structure-0.6B
Есть onnx версии, вплоть до int8, q4 и тд.
Post #1987
329