Claude нагенерировал кучу неудачных операций США в Иране — забугорные СМИ начали подозревать, что все потери американцев в иранской операции связаны с «поддакиванием» ИИ

Напомню, что США активно применяет Claude и другие нейросети в планировании операций. Безопасники пришли к выводу, что феномен «AI-sycophancy» (то самое поддакивание) как раз и приводит к неудачным операциям с массой потерь.

Есть даже конкретный пример, который вызвал подозрения у безопасников:

28 февраля в первый день ударов американцы засадили ракетой в начальную школу. По данным ООН, погибли 168 мирных людей. Началось активное расследование — выяснилось, что офицеры, общаясь с Клодом, дали ему для планирования спутниковые снимки, где ИИ распознал школу как военный объект.

И я напомню ещё раз, что Claude спланировал 1000 таких операций. На этот счёт даже мелькала инфа, что ИИ планировал взять Иран за 3 за 23 дня, расчитав удары по логистическим центрам. Но, как мы видим, этого не произошло.

И снова безопасники винят в этом «поддакивание ИИ».

Пет-проект