22-Rabi-al-Awwal-1448

NVIDIA выкатила Personal AI Router, сокращённо PAIR.

Собирает все компы в твоей локалке в один домашний ИИ-кластер. Сам находит машины с RTX, DGX Spark и маки, сам кидает запрос туда, где ща есть свободные ресурсы.

По сути домашний балансировщик для агентов. Гоняешь несколько агентов параллельно, размазываешь инференс по нескольким картам и компам, работаешь через Ollama и LM Studio. Промпты, файлы и контекст из твоей сети не уходят. Windows, Linux, macOS. Бета, бесплатно, открытый код.

Ну утилита и утилита. Интереснее — куда она встаёт.

Я писал про Tesla V100: серверное железо после корпоративного цикла обновления утекает на вторичку и оседает в домашних сборках. Это первый поток.

Второй поток — перепайка памяти. Китайцы берут прошлые топы и меняют чипы на более ёмкие. До х2 по памяти на той же карте. Из 4090 делают 4090 на 48 гб. То, что в стоке залочено, оказывается вопросом паяльника и доступа к чипам.

И вот тут картинка складывается. НВидиа не то что чувствует этот тренд. Она его задаёт.

Смотрите сами. Откуда у мастерских берутся подходящие чипы памяти? В объёмах, партиями, годами. Это не гараж и не находка на барахолке, это поставка. Кто-то её обеспечивает. И многое указывает на то, что это Nvidia.

Дальше. PAIR выходит ровно тогда, когда у людей на руках скопился зоопарк: старая серверная карта, перепаянный топ, ноут, мак. И инструмент, который склеивает этот зоопарк в кластер, приезжает от того же вендора, который этот зоопарк и создал.

Замкнутый круг, причём выгодный:

- свежие карты уходят в стойки
- отработавшие стойки едут на вторичку и разгоняют домашний сегмент
- домашний сегмент кормится чипами и софтом от того же вендора

Сам себе конкурентом он при этом не становится. Домашняя сборка не отбирает клиента у датацентра, она создаёт нового — того, кто завтра захочет больше.

Мне это нравится и не нравится одновременно.

Нравится, потому что off-grid стал реальным. Машина стоит дома. Без подписок, без цензуры, без утечки твоих данных на чужие сервера. PAIR делает следующий шаг: это уже не одна машина, а всё железо в квартире, собранное в кучу.

Не нравится, потому что независимость получается арендованная, бутафорная, пластиковая. Ты вроде ушёл от подписок, а всё, на чём стоишь, приехало из одной экосистемы. Чипы, драйверы, теперь ещё и роутер запросов.

Вопрос, на который у меня ответа пока нет. Это временное окно, пока рынок не устаканился? Или новая норма, где домашний кластер — официальный младший тир той же самой лестницы?

А вы как думаете, куда это идёт?