Поставил себе gpt-oss-20b на mac mini m4 16gb. Работает! Ставил через LM Studio, но потребовалось отключить Model loading guardrails в настройках, без этого модель не запускалась, утверждала, что мало ресурсов. Работает на скорости 18-24 токена. заняло 20 мин времени. Очень доволен.
На первый взгляд, модель не такая уж и тупая. Для использования в диалогах она, конечно, будет сильно проигрывать лучшим моделям, но для большинства автоматизаций, думаю, ее будет более чем достаточно. Единственное, для работы с n8n памяти хватать не должно - тут надо бы еще один мак мини прикупить либо посмотреть на модель с квантованием на 4бита (эта - на 8). При этом Клод утверждает, что если не использовать LM Studio, а идти по хардкору и всю установку делать самостоятельно, то скорость можно поднять до 30-35 токенов, да и настроек, включая файн-тьюнинг можно сделать гораздо больше.
Post #220
41