Эксперты из каментов, я с этими бенчмарками скоро с ума сойду.
Почему так ёпта?
Какого хрена iMatrix, и уж тем более 8-и битки быстрее, чем очереднярные Q4?
Все в интернетах пишут типа, "АРРРЯЯ IQ медленные", какого хрена у меня они стабильно быстрее? Даже на нормальной жпу (скрин в каменты к посту закину)
Параметры бенча дефолтные [--fit-target 1024], контекст 512 на pp, и 128 на tg
Post #1509
19.2K
- 😁 67
- 👍 7
- ❤ 6
- 🤔 2
- 🥴 1
- 🗿 1