Маленькие модели, большие возможности: Microsoft выкатили Phi-4 с "Reasoning"
Все уже привыкли к термину LLM – гигантам вроде GPT-4 или Gemini, которые поражают своими способностями. Но вот про SLM (Small Language Models) слышали немногие, а зря. Это как раз тот случай, когда размер – не главное.
Microsoft уже некоторое время развивает свою линейку SLM под названием Phi. Помню, вокруг Phi-3 были споры, некоторые обвиняли их в накрутке бенчмарков. Но вот четвертое поколение, Phi-4, которое вышло ранее – это совсем другая история. Я сам гонял 4B и 14B версии у себя локально, и остался под приятным впечатлением.
Модели отлично понимают и генерируют русский язык, что для многих локальных задач уже большой плюс. 4B-версия работает невероятно быстро – идеально для задач, где важна скорость отклика. 14B модель, конечно, проигрывает в скорости некоторым конкурентам вроде Qwen, но по качеству генерации текста очень хороша. Для всяких встроенных в систему AI-инструментов (рерайт, суммаризация в почте, базовый чат-бот) – такие модели подходят просто отлично.
И вот теперь Microsoft делает следующий шаг – анонсировали Phi-4 с функцией "Reasoning". Они представили сразу три новые модели: Phi-4-reasoning, Phi-4-reasoning-plus и Phi-4-mini-reasoning. Достичь таких способностей в компактных моделях им удалось за счет комбинации методов обучения и использования очень качественных данных.
Основные характеристики моделей:
1. Phi-4-reasoning (14B параметров):
- Открытая (open-weight) модель, обученная на данных от OpenAI o3-mini.
- Генерирует детальные цепочки рассуждений.
*Результаты:* На бенчмарках по математике и научным вопросам уровня PhD обходит OpenAI o1-mini и DeepSeek-R1-Distill-Llama-70B. На тесте AIME 2025 показала результат лучше 671-миллиардной DeepSeek-R1.
2. Phi-4-reasoning-plus:
- Улучшенная версия Phi-4-reasoning, дообученная с помощью RL для более высокой точности за счет большего использования вычислительных ресурсов при генерации.
3. Phi-4-mini-reasoning (3.8B параметров):
- Компактная модель для сред с ограниченными ресурсами (edge/mobile).
- Оптимизирована для математических задач, может пошагово объяснять решение. Идеальна для образовательных приложений.
*Результаты:* Обходит модели вдвое больше себя (OpenThinker-7B, Llama-3.2-3B-instruct и др.) и сравнима с OpenAI o1-mini на математических бенчмарках.
Все модели доступны на Azure AI Foundry и HuggingFace
Где мы это увидим?
Microsoft активно интегрирует Phi модели в свои продукты. Например, в новых Copilot+ PC используется оптимизированная версия Phi Silica, работающая прямо на NPU (нейронном процессоре). Это обеспечивает почти мгновенный отклик и энергоэффективность. Примеры – функция "Click to Do" в Windows или офлайн-суммаризация писем в Outlook.
Новые Phi-4-reasoning модели тоже будут оптимизированы для работы на NPU в Copilot+ PC. Это открывает дорогу к появлению действительно умных локальных ассистентов, способных не просто генерировать текст, но и решать сложные задачи прямо на вашем устройстве, без постоянного обращения в облако.
Post #285
527
- 👍 6
- ❤ 1