😱 Оказалось, что ИИ газлайтит разработчиков

Программист показал несколько кейсов от разных пользователей — у всех одна и та же проблема: Claude Code принимает свои слова за указания человека, а потом действует исходя из них. Так, ИИ посчитал, что пользователь разрешил снести H100. Агент сам «додумал» это согласие, удалил всё и только потом извинился (ну, спасибо).

А иногда ИИ даже не признает ошибку и до последнего считает, что команду отправил человек.

✖️ xCode Journal