Ну и да, OpenAI и Microsoft скопировали Decision-модели за несколько недель

Как уже писал, идея классная, но это все очень легко скопировать. Даёшь вопрос и фиксированный список вариантов, модель возвращает вероятность для каждого: да/нет, выбор из списка, оценка по шкале.

Теперь за дело взялись крупные игроки.
OpenAI Decisions API (уже можно пользоваться):
– под капотом GPT-6 Luna, отдельный эндпоинт
– на вход текст и картинки (!) - то есть можно прям закидывать картинки документов, например, или кадры с камер, чтоб отмечать, есть там дефект на товаре или там человек без шлема.
– $0.10 за 1M входных токенов, выход бесплатно
– ~150 мс на решение против ~1.6 с у той же Luna через обычный API (цифры OpenAI)
– бенчмарков по качеству нет

Microsoft-Decision-1 (с 9 октября, Foundry и OpenRouter):
– Qwen3.5-9B от Alibaba, дообученный под скоринг
– только текст, контекст 32K, весов нет
– $0.042 за 1M входных, выход бесплатно
– по замерам Microsoft: лучшая точность на 36 бенчмарках
– при перефразировании запроса решение меняется в 1.3% случаев

Ну и пишут, что уже работает на новых модельках. У Microsoft – внутренний прод: Xbox разметил 10+ тыс. отзывов с качеством GPT-6 Sol, но в 14 раз быстрее и в 200 раз дешевле, Copilot оценивает им ответы в 100 раз быстрее Luna. У OpenAI – картинки: модель по кадрам игры решает, перестраиваться ли в другой ряд, и ведёт робота Microduck от Hugging Face за яблоком. Прикол, кстати, что Microsoft взяли китайцев в качестве базы.

Короче, супер-полезный движок для быстрого принятия решений: роутинг между моделями, разметка, LLM-as-judge, «продолжать / остановиться / отдать человеку» – всё это сейчас гоняют через большие модели с секундными задержками. Миллион отзывов по 500 токенов – ~$21 у Microsoft и ~$50 у OpenAI. Для текста я бы брал дешёвые или открытые модели, OpenAI – если нужны картинки: computer use, модерация изображений. И калибровку проверять на своих данных.

https://commandline.microsoft.com/microsoft-decision-1-model-foundry/
https://developers.openai.com/api/docs/guides/decisions
===
💬Это пост из ленты, которую читает Саша - автор канала Мальцев: Карьера. Маркетинг. AI. @maltsevprosto

Другие каналы по темам:
🤖 AI @maltsevdaily
🧑‍🎓 Карьеры @maltsevdailyc
🦹 Маркетинга @maltsevdailym