🦞 OpenClaw на AMD
AMD выложила BKC (Best Known Configuration) для запуска OpenClaw-агентов на двух конфигурациях. Звучит как маркетинг, но давайте в цифры — потому что дьявол в bandwidth.
Стек: WSL2 → LM Studio → llama.cpp (Vulkan backend) → Qwen 3.5 35B A3B (MoE, ~3B активных параметров на токен из 35B total). Память агента — Memory.md, локальные эмбеддинги без облака.
RyzenClaw — Ryzen AI Max+ 395:
→ 128 ГБ LPDDR5X-8000, шина 256 бит, ~215 ГБ/с реальной пропускной способности
→ До 96 ГБ отдаётся под VRAM через Variable Graphics Memory
→ 45 tok/s decode на Qwen 3.5 35B, prefill 10K токенов за 19.5 сек
→ Контекст 260K, до 6 агентов параллельно (Unified KV Cache)
RadeonClaw — Radeon AI PRO R9700 (RDNA 4):
→ 32 ГБ GDDR6, ~512 ГБ/с bandwidth
→ 120 tok/s decode, prefill 10K за 4.4 сек
→ Меньше контекст, меньше параллельных агентов — но в 2.7× быстрее на генерации
Зачем вообще новое железо, если есть RTX 5090?
Бенчмарки из llama.cpp discussions (Qwen 3.5 35B, Q4_K_XL):
→ RTX 5090: ~190 tok/s decode, GDDR7, 1.8 ТБ/с bandwidth, 32 ГБ VRAM. Цена ~$4 300
→ R9700: ~127 tok/s decode, GDDR6, ~512 ГБ/с. Цена ~$1 300
→ Разница в скорости генерации: 1.5×. Разница в цене: 3.3×. Два R9700 (64 ГБ VRAM) дешевле одной 5090
Но главный аргумент AMD не в дискретке. Он в APU. Ryzen AI Max+ с 128 ГБ unified memory позволяет запускать модели, которые физически не влезут в 32 ГБ VRAM у 5090: DeepSeek R1 70B, Llama 4 Scout 109B, GPT-OSS 120B. Через TTM kernel parameter в Linux можно выделить до 120 ГБ VRAM на ноде. А через llama.cpp RPC кластер из 4 мини-ПК = 480 ГБ и триллионная модель Kimi K2.5 локально.
Ложка дёгтя: bandwidth у Strix Halo — 215 ГБ/с vs 546 ГБ/с у Apple M4 Max (128 ГБ). На dense 70B-моделях M4 Max быстрее: 6.3 vs 5.0 tok/s. Но на MoE-моделях, где активны 3–6B из 35–100B, bandwidth-bottleneck не так критичен — и AMD выигрывает за счёт ёмкости памяти и цены ($2 566 Framework Desktop vs $4 000+ MacBook Pro 128 ГБ).
Prompt injection — новый attack vector. У OpenClaw уже был инцидент ClawHavoc: вредоносные скиллы через ClawHub заражали инстансы. AMD сами пишут в disclaimer: «запускайте на чистой машине или в VM». Появился проект ClawSec — security-suite с drift detection для SOUL.md/IDENTITY.md и сканированием скиллов через VirusTotal.
AMD по сути говорит: inference переезжает на клиент, и мы продаём железо для этого. Не «AI PC для Copilot», а полноценный Agent Computer, где primary user — не человек, а LLM.
Кто уже гонял OpenClaw локально — на чём? 👇
#AI #AIAgents #cloudarchitecture #cybersecurity #LLM
(источник)
Post #308
56

- ❤ 4