Ну-с, новая опенсорсная reasoning-модель QwQ 32B (8bit gguf, mlx не захотела работать), запущенная на моём компе, таки зарешала без ошибок задачу на умножение двух 5×5 матриц. Правда, на размышления у неё ушло аж 88 минут. Размер контекстного окна был 4k токенов, по итогу занято 547%!!! И даже галлюцинации не помешали. Солидно!

Также дал ей задачу на прорисовку в JS жёлтого мячика, отскакивающего от стен крутящегося квадрата. Тоже прошла: 22 минуты, 8k контекстное окно, занято 96,2%. Финальный код вот.

Это первая опенсорсная модель, которая на моём MacBook M3 Max 128Gb зарешала эти задачи. Пусть и долго, зато качественно. Это уже уровень GPT-4o на локальном железе 😎

P.S. Аутпуты ответов и размышлений доступны по ссылкам в посте ⬆️

UPD: Квадрат в последней задаче крутится, а зоны соприкосновения с мячем нет. Короче, задача провалена пока что.