Для этого разработчики объединили десктопную версию программы со специальным мобильным приложением Locally. Как пишет 9to5Mac, система создает зашифрованный туннель между вашим компьютером и смартфоном. Вся переписка и файлы обрабатываются на вашем личном железе, не улетая в облако крупных корпораций.
【Ключевые детали】
▸ Любой масштаб — можно запускать модели любого размера (хоть гигантские на 405 миллиардов параметров), лишь бы их тянул домашний ПК.
▸ Безопасность — соединение идет без публичного интернета через сквозное шифрование.
▸ Статус — сейчас функция доступна бесплатно в режиме превью, но требует аккаунта на обоих устройствах.
Главный минус на сегодня: связь с компьютером временно прерывается, когда приложение на телефоне сворачивается в фоновый режим. Разработчики уже обещают это исправить.
🔸Токен за токеном...