💸 NVIDIA: вычислительные мощности для ИИ уже стоят дороже сотрудников

Пока вы активно внедряете ИИ и заменяете сотрудников в NVIDIA внезапно озвучили, что стоимость AI compute начинает превышать стоимость самих сотрудников. В принципе, что мы упрёмся в стоимость инфраструктуры было очевидно!

Вице-президент NVIDIA по deep learning Брайан Катандзаро прямо заявил: “The cost of compute is far beyond the costs of the employees”
(стоимость вычислений намного выше стоимости сотрудников)

🧠 Рынок долго жил в логике: «ИИ заменит людей и сократит расходы»

Но "внезапно" выяснилось:
👉 GPU стоят безумных денег
👉 inference жрёт электричество как небольшой завод
👉 токены и вычисления улетают в бюджеты быстрее зарплат

📊 Немного цифр

🔹 Jensen Huang говорил, что его бы “насторожило”, если инженер NVIDIA с зарплатой ~$500k в год не тратил бы хотя бы ~$250k на AI-токены и вычисления.
🔹 Uber уже жаловался, что AI-бюджеты начали выходить из-под контроля из-за стоимости inference и токенов.
🔹 McKinsey оценивает потенциальные расходы на AI-инфраструктуру к 2030 году в $5–8 трлн.

⚠️ Ирония в том, что компании хотели заменить дорогих сотрудников, получили ещё более дорогие GPU. NVidia может себе позволить такие заявления, потому что у них очередь на процессоры 🙂

🔥 Мы входим в эпоху, где компании от хайпа переходят к прагматичному расчёту стоимости расходов на инфраструктуру ИИ.
Теперь не человек становится главным ограничением бизнеса,
а вычислительные мощности. Ничего, скоро всё повально займутся оптимизацией неэффективных моделей, особенно LLM. Которые "жрут" электричество почём зря, на довольно банальные задачи, которые можно решить более эффективными средствами. Но это нормальная эволюция 🙂

🎯 Но если вы думаете, что мы откатимся назад. Нет. Скорее всего в ближайшие годы компании будут увольнять людей не потому, что AI “умнее”, а потому что нужно оплачивать дата-центры.

И это уже происходит, бигтехи увольняют людей, потому что у них трещат бюджеты из-за кредитов на вычислительные мощности. А от облаков они отказаться не могут, потому что утилизация облаков напрямую влияет на их капитализацию, а значит и рыночную стоимость.

💡 Получается довольно забавная ситуация:
Раньше CFO спрашивал: «сколько у нас людей?»
Теперь: «сколько у нас токенов сгорело за квартал?»