Я регулярно смотрю ролики @elkornacio на ютубе и всегда это очень познавательно.

Сегодня он опубликовал очередные видео на тему практического применения ИИ. Ведь это круто, когда на домашнем компе или на серваке проекта висит n8n, который по сигналу от телеграм-бота будет запускать Claude Code с доступом ко всем файлам и системным командам!

Или не совсем круто?

Лично для меня тут тонкая грань между гениальностью и безумием. Пытаюсь просчитать риски и сразу вижу минимум два очевидных источника проблем:

1) Телеграм. Кто-то может получить доступ к управляющему боту и посылать свои команды. Кто-то может с помощью вируса или прокси встроится в обмены с серверам телеги (помним, что каждый бесплатный вайфай - это потенциальная ловушка).

2) LLM. Давать полный доступ к системе банально страшно из-за галлюцинаций. Буквально на днях слышал историю о том, что именно Claude Code посчитал домашний каталог пользователя своей рабочей директорией и чуть не удалил там все файлы - пользователь увидел попытку и остановил агента, но в видео предлагается запускать его в неинтерактивном режиме и просто верить, что агент сделает все как нужно.

#ai #паранойя