наглядная иллюстрация объема вычислений LLM на примере Qwen3.8:27b когда ей задали вопрос "Назови столицу Франции"

25 миллиардов вычислений.
чтобы это показать наглядно в минутном видео, 7.2 миллиона вычислений между каждым кадром не показывают.
ролик 3600 кадров со скоростью 60 кадров в секунду.

Если бы каждое вычисление показывалось в каждом кадре, - ролик бы занял 13 лет времени.

на RTX PRO 6000 эти вычисления проходят за 13 миллисекунд.

Объем работы, которую выполняют GPU, - фантастически запредельный, конечно

#demo #LLM #Qwen
———
@tsingular