Посмотрел сессию по ЦОДам на ЦИПРе. В общем, нафталин. Кроме, Сбера-Меньшова. Держит марку.
Итак, что сказал Меньшов. Баланс между CPU и GPU в решении задач ИИ начал выправляться, в т.ч. из-за роста производительности CPU. И это в очередной раз усиливает неразбериху что считать ИИ-ЦОДом.
Далее, про ту самую маргинализацию. Если оттренированную модель выжечь в кремнии (как сейчас алгоритмы блокчейна на айсиках), то все станет быстрее, дешевле и не так будет зависеть от инженерной инфры. И тогда это превратиться в гонку поколений чипов с моделями. Но для инфры будет все очень просто.
Post #686
260
- 🔥 4
- 🤔 3