Запрос "создай мне корзину заказов" - приведёт к тому, что она у вас появиться. И вы довольный пойдёте дальше. А потом обнаружите, что оказывается, если выйти со страницы, корзина сбрасывается просто потому, что она существует только у пользователя в браузере, как список отмеченных товаров. Не прикольно правда?
Вы возвращаетесь и просите "Сделай сохранение корзины на сервере" это и вполне логично, что ИИ переносит хранение на сервер. Ураа...
Но затем, вы обнаруживаете (хорошо если вы, а не клиенты), что если собрать 5 товаров в корзину, то у вас подвисает сайт.
Идём в нейронку и просим исправить это. Если вы прочитаете её ответ, то она скажет, что причина в том что обновление корзины у пользователя срабатывает каждую секунду с полным список товаров в ней, а то и с картинками.
Теперь обновления раз в 5 секунд.
Но вы замечаете, что после добавления товара в корзину, количество товаров в корзине не обновляется. Да и при наличии 10-15 товаров в корзине сайт все ещё как раньше подвисает. А ещё через месяц обнаруживаете, что на жёстком диске закончилось свободное место.
Вы просите исправить проблему работы с корзиной, и ИИ возвращает работу с корзины на фронт. Цикл замкнулся.

И таким образом вы можете бесконечно ходить по кругу и делать одно и тоже.
Нейронка не продумывает за вас как именно это должно работать, какие будут последствия, что приемлемо, а что нет. А ведь это только один маленький кусочек.

3) Безопасность
Вернёмся к той же корзине:
Очень вероятно, ещё окажется ваш эндпоинт открыт для всех, и злоумышленник, простым скриптом который подставит в этот список айди пользователя соберёт все корзины, узнает общее количество ваших пользователей, объем их заказов, а в худших случаях ещё и их адреса, при этом не нарушит ни одного закона. Сделает рассылку, предложив этим людям тоже самое, но дешевле. Вы потеряли клиентов, а если это всплывёт - вы заплатите ещё и колоссальные штрафы за утечку данных.

Над безопасностью, нужно было думать всегда. И всегда про это забывали. Но вы же не думаете, что нейронки используются только для того, чтобы писать код?)

Сделать что-то - очень просто, а сложно сделать хорошо. Но для этого нужно уже не верхнеуровневые запросы писать, а погружаться в детали и принципы построения.

Совет:
Вы можете просить сделать что-то большое, а потом просить расписать подробно как и что работает. Затем детально по пунктам исправлять. Если у вас нет опыта работы в области - то это для вас самый оптимальный вариант.