⚪️ Сложности реализации full-SDLC AI


Вот тут наткнулся на кейс:

🔗 https://x.com/Al_Grigor/status/2029889772181934425?s=20

CC ловко вайпнул инфру вместе со всеми данными. Бэкапы в виде снепшотов тоже. ☠️

Выводы? full ai-sdls сложен. Требует выработки устойчивых подходов.

▶️ Еще раз: агент не ходит к проду "как к себе домой!". План миграции и переездов не делается "на лету".

По мне, так надо все как с кодом - сначала исследование, граундинг на текущую инфраструктуру, доклад о том что агент видит. Потом планирование изменений, итеративно, с анализом сайд-эффектов, и только потом какие то манипуляции строго по одобренному плану. Так у агента меньше шансов исполнить какой то опасный экспромпт!

Экспромптом же "на живую", итеративно работать с ценными данными - это абсурд, "... и отвага"! Еще и аудита устойчивости своей системы не делал: ну кто ж снепшоты так хранит? Если система ненадежная, так там только ИИ не хватало

В общем, система обязана быть отказоустойчивой в том числе к случайному "повреждению" изнутри. И работать надо "устойчивыми" схемами. Ревью архитектуры тем же ИИ агентом не помешает. Пусть он пропишет воможный отка каких то элементов и просчитает последствия. Не все компетентны в таких аналиах, так пользуемся интеллектом под руками. Так будет меньше боли


@deksden_notes