Иногда ИИ делает такие вещи, которые, как мне кажется, даже новичок в айти не сделает. Например, сегодня он опубликовал приватные ключи доступа в репозитории (добавил их в тестовый конфиг).

При этом прямой вопрос о безопасности такого подхода у бота не вызывает проблем, он прекрасно понимает, что такой подход опасен.

Проблема усугубляется тем, что агент не имеет памяти вне контекста, никак не связывает свои действия и не понимает что такое "ответственность".