800 тысяч параметров против триллионов: счёт 100:0
Axiom Math показали Lattice Deduction Transformers — модель на 800K параметров, которая решает Sudoku-Extreme на 100%. Frontier LLM на том же бенчмарке набрали 0%.
Масштаб абсурда: GPT, Claude, Gemini — модели с сотнями миллиардов параметров, обученные на кластерах за десятки миллионов долларов. Против них - штука размером с Excel-файл. И она побеждает 100:0.
Классические LLM не умеют делать строгую логическую дедукцию. Они угадывают следующий токен. А судоку - это не угадывание, это перебор ограничений на решётке. Axiom Math заточили модель именно под lattice-структуры и дедуктивный вывод.
Заливать задачу деньгами и параметрами - не универсальная стратегия. Иногда крошечная специализированная архитектура уничтожает гигантов на их же поле. Правда, пока только на судоку 😏
Post #2569
281

- ❤ 3