Так начал выступление на эфире МФТИ Алексей Сикора, ML-инженер, разработчик ИИ-агентов и аналитик данных в компании «Астон».
Алексей сам активно использует ИИ в работе. Но есть обратная сторона: ему регулярно приходится переписывать код, который кто-то сгенерировал и не проверил. В таком коде могут оставаться лишние функции, классы и решения, которые в итоге только усложняют систему.
За тем, что генерирует вам модель ИИ и агенты, нужно следить очень тщательно — отметил Алексей.
Где ИИ может помочь, а где разработчику все равно придется включаться самому?
✅️ Сначала нужно понять, что вообще делать
Один из самых важных этапов разработки — сбор и анализ требований. Именно здесь легко ошибиться: если задачу поняли неправильно, дальше можно быстро сделать совсем не то.
У разработчика не всегда есть готовое техническое задание на 70 страниц. Чаще это переписка с заказчиком, скриншоты, файлы, примеры запросов и другая информация, которую нужно собрать в одно место и привести к рабочему виду.
Здесь ИИ может выступать как помощник: помочь структурировать материалы, выделить требования, ограничения, критерии приемки и найти вопросы, которые остались без ответа.
Но полностью отдавать этот этап модели нельзя. ИИ может неправильно понять контекст, додумать то, чего в задаче не было, или задать вопрос, ответ на который уже есть в документах.
✅️ Потом — спроектировать систему
После требований нужно понять, из каких частей будет состоять будущий сервис.
ИИ может помочь нарисовать архитектурную схему или предложить варианты реализации. Но выбрать подход к построению системы должен инженер.
Нужно понимать, какие компоненты нужны, как они связаны между собой и какие ограничения есть у проекта.
✅️ Код написал ИИ — тесты тоже. Но кто проверит тесты?
Если код не проходит тест, не всегда нужно сразу менять код. Сначала стоит проверить сам тест. Он тоже может быть написан неправильно.
Еще одна ошибка — ориентироваться только на процент покрытия тестами. Можно покрыть 100% кода, но при этом не проверить действительно важные вещи: например, правильно ли считаются деньги или работает ли авторизация.
Важно не только количество покрытых строк, а то, что именно проверяют эти тесты.
✅️ После генерации работа не заканчивается
ИИ может помочь подготовить Dockerfile, конфигурации, настройки CI/CD и другие технические части.
Но дальше сервис все равно нужно развернуть, смотреть логи, отслеживать ошибки и понимать, что происходит внутри системы.
Отдельно стоит вопрос безопасности: готовые MCP-серверы из открытых источников нужно проверять. В их реализации могут быть уязвимости, поэтому даже готовые решения нельзя просто подключать без проверки.
По словам Алексея, в будущем главным навыком разработчика станет умение формировать спецификацию и делать жесткое ревью результата работы ИИ-агента. «Все остальное будет для нас делать ИИ-агент», — считает Алексей.
ИИ хорошо ускоряет хороший процесс. Но если процесс плохой — он так же быстро масштабирует все ошибки, которые уже есть.😰