Интересный анализ по Nvidia от Epoch AI

Там очень много данных, советую самому в них покопаться. там найдете супер полезные инсайды если вы занимаетесь ресерчерем, строите бизнес, инвестируете или просто вам полезно знать куда движутся тренды

То, что я нашел для себя довольно интересным:

1️⃣ Начиная с 2019 в среднем хватает всего 10ти месяцев для удвоению введенных в эксплуатацию Compute GPU FLOPS во всем мире

2️⃣ Соответственно в среднем годовой рост составляет 2.3х, в то же время спрос на вычисления для обучения фронтирных моделей растет в 4-5х -> "упираемся" в скалируемость по железу

3️⃣ В среднем переход от FP32 к INT8 дал 12х буст в compute - а не 4x как можно было бы предположить. У H100 разница вообще в 59 раз 🤯

4️⃣ Компьют дешевеет на 30%/год. Стоимость человеческого труда же только растет...

#индустрия #ии