#AI #агенты

Люблю байки из склепа про тупых коварных агентов. Только после них вопросы остаются.

Агент удалил боевую базу
У вас точно есть бэкапы? Их может каждый снести?

Агент уронил прод
Что у вас с CI/CD? Люди тоже постоянно роняют?

Агент потратил нажитое непосильным трудом
Вы ему дали основную карту, да еще с овердрафтом?

Агент устроил непотребство в личной переписке и снес семейный архив на ноуте.
Т.е. вы поставили его на личную машину и дали все права?

Хотя правила гигиены довольно просты:

• Относись к агентам, как к людям, встраивай их в безопасные процессы

• Если агент может сам что-то оплачивать — сделай ему отдельную виртуальную карту, настрой лимиты, закидывай ограниченные суммы

• Следи за доступами на локальной машине. Запускай в докере, или вообще разверни на отдельном VPS

• Следи за доступами в публичных сервисах. Четко настраивай права на уровне самого сервиса, а не инструкций агента

Да, негибко. Со временем можно давать больше свободы, сопоставляя профит и риски. Но тут, конечно, думать придется.

Когда заявляют, что агент тупой, то обычно тупой не он.