strands-decider я поставил как uv tool и запускал из шелла. на m5 pro летает: time strands-decider \
ask StrandsAgents/strands-decider-2B-hobson-v21 \
--state "Help! My payouts have been failing for 3 days! " \
--choice "Which team should handle this?=billing,sales,retail" \
--noul "Does this convey urgency?" \
--score "How frustrated is the writer?=calm,frustrated,depressed"
strands-decider ask StrandsAgents/strands-decider-2B-hobson-v21 --state 4.86s user 1.16s system 82% cpu 7.292 total
причем
strands-decider предлагает еще запуск под mlx и позволяет cli-tool заранить как сервер: strands-decider serve StrandsAgents/strands-decider-2B-hobson-v21 --port 8000
если очень надо у модели еще можно доустановить vision.
клуб царапчиков