Безопасен ли код, генерируемый ИИ?

Всем привет!

Кода, который генерируется ИИ становится всё больше. И его явно будет становиться больше.

Но безопасен ли этот код? Можно ли доверять ему «вслепую»?

Если вам интересны ответы на эти вопросы, то рекомендуем обратить внимание на вот эту статью.

В ней Автор берёт собственный проект, созданный LLM, подключает SonarCloud и получает 234 проблемы на первом же скане.

Дальше показывает, как с этим жить обычному вайбкодеру: настраивает конвейер сборки, который блокирует деплой при провале анализа, объясняет принцип работы с инструментами.

Статья будет полезна тем, кто активно использует LLM в разработке и хочет понять с чего начать в теме безопасности кода.

А что вы думаете по этому поводу? Проводили ли подобные эксперименты?