TGViewer
AI Projects AI Projects @turboproject · 11.8K subscribers
Post #5287 3.17K
К вопросу о безопасности агентов и насколько верно было решение в DeepSeek Harness сделать защиту на уровне ОС, а также что с этим делать. Думаю, многие заметили, что у DSH нет традиционного «белого списка» команд для Workspace Write. Причина в том, что DeepSeek решил: безопасность — это не те игры, где агенту быстро эскалируют права множеством разрешений (на практике «белый список» обычно быстро разрастается до десятков разрешений). Плюс контроль безопасности обвязкой не защищает от ошибок в логике самой обвязки.

Поэтому защита песочницы DSH работает на уровне ОС. Сконфигурировано так, что для 95% нужных действий обычно не требуется запрос на подтверждение вообще. Исключение — если вы полезли за пределы песочницы.

На мой взгляд, тут DeepSeek прав: текущие обвязки — огромная дыра в безопасности. Проблемы безопасности надо решать совместно с агентом, а старые практики с бесконечными белыми списками очень рискованные. Большинство даже не помнят, что разрешили, давайте честно.

В случае защиты на уровне ОС мы с DSH имеем такие варианты:
1. Агент заранее планирует, какие действия требуются за рамками прав его процесса ОС, делает пакетный скрипт — вы его запускаете.
2. Для множественных действий с приличными правами, вероятно, имеет смысл быстро навайбкодить себе MCP и запустить от своего лица. Важный бонус тут — логирование работы агента и возможность встраивания дополнительных мер защиты от ошибок LLM.

Предлагаю обсудить в комментариях: параноики ли в DeepSeek или это вообще скоро станет best practice по безопасности агентов? 🛡
  • ✍ 31
  • ❤ 8
  • 👍 2
More from @turboproject
  1. Oct 7, 2026🇨🇳 В Китае идёт празднование Китайского национального дня. Однако интересный факт: китай…
  2. Oct 7, 2026📉 Данные официальной статистики США (BLS) опровергают сказки, что работодатели зовут наза…
  3. Oct 7, 2026OpenAI на деле доказывает, что «конец математики от ИИ», объявленный Сэмом Альтманом, уже…
  4. Oct 6, 2026🧬 Как известно, за AlphaFold была вручена Нобелевская премия за моделирование белков с по…
  5. Oct 6, 2026📚 Wikipedia заявила, что была атакована роем агентов OpenAI. Агенты активно пытались взло…
  6. Oct 6, 2026🔮 Главный ИИ-прогнозист Google, Рэй Курцвейл, заявил, что если вы сможете ещё прожить 10…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →