Компания заявила, что недалеком будущем выпустит Microsoft Execution Containers (MXC), специальную «песочницу», в которой будут жестко задаваться права доступа для «искусственного интеллекта». Модели смогут получить, например, доступ к определенной папке, но не более того — и эта настройка не может быть изменена изнутри «песочницы».
Что значит «гибридная модель»? Предлагается, что некоторая часть работы будет исполняться локально, а в облачные сервисы будет ретранслироваться только часть нагрузки, которую невозможно или нерационально обрабатывать локально, и наоборот:
«Copilot по-прежнему будет использовать облако для самых сложных задач, но в тех случаях, когда стоимость или конфиденциальность имеют большее значение, он может делегировать полномочия локальным моделям, которые работают непосредственно на вашем компьютере».
С точки зрения обеспечения приватности и, одновременно, производительности такая схема представляется хорошей идеей — особенно, если можно будет четко прописать правила, по которым фильтруется запрос в «облака» и что должно быть передано на локальную обработку. Правда, в свете отчетов о способах, которыми LLM пользуются, чтобы найти выходы из «песочницы», у меня есть серьезные сомнения в полной безопасности такой системы. Бороться с этим можно только через гипер-изоляцию (возможно, на уровне ядра или даже аппаратного разделения пространств памяти) и постоянные обновления сигнатур атак. Если Microsoft не сможет гарантировать, что агент не может скомпрометировать контейнер изнутри, доверять локальному ИИ будет нельзя.
И есть еще одна проблема: деньги. Цены на оборудование, в первую очередь на микросхемы памяти, взлетели так, что локальный «искусственный интеллект» (особенно, полноразмерный, пригодный для обучения, а не сжатый на порядок с помощью квантования, которого хватает на инференс) стал очень дорогим удовольствием 🤷🏻:
«Два года назад программное обеспечение не было готово, но оборудование было готово. Сейчас программное обеспечение готово, а оборудование слишком дорогое, чтобы его можно было запускать локально», — сказал Аншель Саг, аналитик Moor Insights & Strategy.»
Концепция поддержана таким гигантом рынка «искусственного интеллекта», как Nvidia (вычислители DGX Spark, как основа* для локальных моделей), обещана поддержка в контейнерах таких инструментов, как DeepSeek, Nemotron, Meta Muse и OpenClaw.
В целом, «Наши цели ясны, задачи определены. За работу, товарищи!» (© Н.С. Хрущёв)
#теория
* - в принципе, дискретные GPU с GDDR7 будут быстрее, но 128/256 GB у DGX Spark существенно расширяет возможность в глубоким и длительным рассуждениям. 8..16 GB GDDR7 становятся узким местом на больших последовательностях.