В чем преимущества то децентрализованных ИИ GPU ?

1 iNFERENCE
GPU уже стоят у тысяч участников — майнеров, геймеров, небольших компаний, университетов. Это уже оплаченное и простаивающее железо. По разным оценкам, утилизация GPU в мире — 15–30%. Остальное время карточки просто греют воздух.

Аргумент за BitTensor:
- спекуляционный рост сабнета - т.е. грубо говоря майнеры воспринимаются не просто, как поставщики GPU за $ - а воспринимаются как участники / инвесторы сабнета
-более привлекательный ROI для майнера за счет дополнительного субсидирования доходности майнеров, спонсируемый интересом к $TAO как спекуляционному активу ( SoV / мемность / культ )


Аргумент против BitTensor:
-Отсутствие сильного технологического конкурентного преимущества против централизованных площадок, которые также собирают GPU от разных участников рынка. [ VAST / RunPod / TogetherAI ]
-Майнинг в свое время стал популярным среди обычного ритейла, так как человек мог с низким порогом входа
[ 1000$ ] войти в историю, на текущий момент throughput маков подходит только для личного пользования и нет возможности масштабирования в кластер. ASIC от Groq / Cerebras - не продаются для ритейла. Остается только покупка GPU от NVIIDA - наиболее досутпный вариант H100 > 25 000$



2. Training Models

Недавний рост $TAO был как раз связан с тем, что Templar натренировал модель Covenant на 72B параметрах.
Бенчмарки сравниваются с Llama-2, которая не является передовой моделью Meta
В январе их отмечал фаундер Anthropic, ссылаясь на статью от Epoch AI, как самую мощную децентрализованную модель вычислений в текущий момент. Он считает возможным дальнейший рост децентрализованного ИИ - но выразил сомнения в потенциале обойти централизованные дата-центры.

Самая главная проблема, что эта модель была натренирована на маленьком кол-ве участников сети [ 70 ] и на мощных кластерах GPU, главные проблемы начинаются при масштабировании - больший масштаб кол-ва участников сети по геолокации / по мощности GPU.

НО - в случае решения этих проблем, что потенциально может произойти в ближайшее время - это может стать главной фишкой Decentralized AI.

Вот хороший пост на эту тему от CEO CoinFund:
https://x.com/jbrukh/status/2033354896674632061

Аргумент за BitTensor:
-Лидер в этом сегменте - Templar / их похвалил даже CEO Anthropic / Помимо, Templar - этим же занимаются: Nous / Prime Intellect / Pluralis
-Экономическая обоснованность тренировки моделей - так как в отличии от инференса, тебе тут нужен обязательно большой ИИ дата-центр для тренировки моделей - и если получится убрать CAPEX на этот ИИ дата-центр и распределить мощности распределено - то экономика сходится и тренировка модели становится дешевле
-Потенциал масштабного FLOPS за счет объединения миллионов устройств ( не только профессиональных майнеров, но и игровых GPU / MacBook Pro и т.д )

Аргументы против BitTensor:
-Потребление Compute смещается с Training - > Inference
-Together AI пошли по пути соединения ИИ дата-центров по разным городам, но через централизованное решение ( они кстати стояли в основе прорыва в сфере соединения разных GPU - DiLoCo - основа, которого использовалась Templar - Covenant72B)