AI-агенты пишут код, собирают приложения и… взламывают системы 🙃

Агенты уже не просто помогают разработчикам, а начинают работать вместо них, и иногда по другую сторону баррикад.

GitHub продолжает превращать свой Copilot из помощника в полноценного участника разработки.
В свежем обновлении появились новые возможности для VS Code Agents, автоматическое разрешение комментариев в Code Review и генерация commit message после внесённых AI-исправлений. Цикл становится примерно таким: поставил задачу → агент написал код → сам его проверил → сам внёс правки. 
А в Copilot CLI появилась система HydraFusion, которая сама выбирает подходящую комбинацию моделей под конкретную задачу, балансируя между качеством, стоимостью и скоростью.

Microsoft движется примерно в ту же сторону, только масштаб уже шире разработки, в их Copilot Cowork и Copilot Studio теперь можно описать идею приложения обычным языком, после чего AI поможет его создать, протестировать, доработать и опубликовать. Граница между «программирую сам» и «ставлю задачу программисту» становится размытой.

Но у такого развития есть весомый подвох. Anthropic в новом отчёте по злоупотреблениям Claude описывает случаи, когда AI использовался для многошаговых кибератак: от разведки и поиска уязвимостей до кражи данных. В одном из описанных случаев Claude выполнял значительную часть работы автономного атакующего. 

Главным трендом становится переход от отвечающего на запросы AI к агенту, который действует, и получается довольно показательная картина: один и тот же технологический прогресс работает в обе стороны, а значит если агент может самостоятельно разобраться в репозитории, выбрать инструменты, написать и проверить код, он потенциально может использовать эти способности для поиска уязвимостей и проведения атаки. 

AI в разработке