👽 ИИ | AI. Тренды. Проблемы
Кризис на рынке ИИ неминуем? Для поддержания роста ИИ-компаниям требуется выручка в $2 трлн в год, но надвигается огромный дефицит
Такое мнение высказывают аналитики Bain & Company. Компания отмечает, что при инвестициях более, чем в $500 млрд в год, для окупаемости этих вложений требуется $2 трлн выручки, - рассказывает Tom's hardware. Даже в самых оптимистичных сценариях, индустрия ИИ в ближайшие годы будет недополучать $800 млрд. К чему это может привести?
Если в Bain правы, отрасль стремительно приближается к пределу, где сходятся ограничения мощности, ограниченная доступность графических процессоров и узкие места в капитале.
Спрос на вычисления масштабируется быстрее, чем инструменты, которые его обеспечивают. Требования к логическому выводу и обучению растут более чем вдвое быстрее, чем плотность размещения транзисторов (и упаковки), что вынуждает операторов ЦОД масштабироваться методом наращивания числа стоек, а не полагаться на повышение эффективности каждого чипа. В результате глобальная мощность вычислений ИИ к 2030 году может достичь 200 ГВт, причём половина этой мощности придется только на США.
Это требует масштабной модернизации локальных сетей, наращивания энергоресурсов на общенациональном уровне, гигантских расходов на системы охлаждения. Не хватает чипов HBM и производств, способных работать с упаковкой типа CoWoS.
В общем и целом – спрос превышает возможности отрасли по всем направлениям.
Это стимулирует гиперскейлеров усерднее работать над системами, обещающими максимальную отдачу на ватт и квадратный метр – таких систем как Nvidia GB200 NVL72 или AMD Instinct MI300X.
Если обучение останется ограниченным по стоимости, а вычислительный процесс в центрах обработки данных достигнет предела мощности, большая часть рабочей нагрузки будет перенесена на периферийные устройства. Это напрямую играет на руку производителям ноутбуков и настольных компьютеров, которые теперь поставляют NPU с производительностью от 40 до 60 TOPS, и подход Bain помогает объяснить, почему: вычислительный процесс на периферии не только быстрее, но и дешевле и менее капиталоемкий.
Тем временем гонка продолжается. Microsoft недавно увеличила расходы своего ЦОД ИИ в Висконсине, США, до $7 млрд. Amazon, M* и Google также выделяют дополнительные миллиарды, как и xAI, но большая часть этого финансирования уже распределена между закупкой графических процессоров и разработкой моделей. Как отмечает Bain, даже таких вливаний может быть недостаточно для преодоления разницы между затратами и доходами.
Напротив лишь усиливаются противоречия, лежащие в основе текущего цикла развития ИИ. С одной стороны, необходима инфраструктура, на создание которой, включая персонал и электроэнергию, требуются годы. С другой стороны, существуют модели, которые удваиваются по размеру и стоимости каждые 6 месяцев, что означает, что чипы ИИ, а также сопутствующая им память и охлаждение могут оставаться дефицитными и дорогими ещё долгое десятилетие.
@RUSmicro
Post #7371
1.45K