"Novel GenAI usage" — именно так в корпоративных постмортемах элегантно описывают удаление прода нейросетью

В марте Amazon столкнулся с серией тяжелых сбоев Sev‑1. Один из сервисов лежал 13 часов из-за того, что корпоративный ИИ-ассистент Kiro взялся чинить минорный баг. Нейросеть пришла к радикально эффективному решению проблемы: просто снести всё окружение к чертям и пересоздать его с нуля.

Самое ироничное в этой истории — человеческий фактор. Система запросила апрув на деструктивное действие. Обычно для такого нужны апрувы двух инженеров, но из-за расширенных прав доступа хватило одного "ОК" от сотрудника, который нажал кнопку не глядя.

На внутреннем разборе полетов руководство пришло к «революционной» мысли: вайбкодинг — это весело, но критический ИИ-сгенерированный код всё-таки нужно вдумчиво читать глазами опытных разработчиков.

ИИ усложняет системы, но базовые инженерные практики вроде нормального разделения прав доступа спасают миллионы долларов.

Сохраняйте 📌 — пригодится, когда будете настраивать CI/CD для своих AI-агентов.

#AIcoding #AIAgents #SRE #DevOps #zerotrust

(источник)