На видео случай на шоу дронов в китайском городе Дунгуане. Внезапно отключилась нейросеть, управляющая более сотней беспилотников и они все попадали.

Пока что эти машинки не способны самоорганизовываться при потери связующего центра. Но что будет, когда потеря связи не станет для них критической?

Не так давно в поле внимания СМИ попала одна история, которая так и не была окончательно подтверждена или опровергнута. Разбор тут: https://habr.com/ru/companies/ruvds/articles/741116/

На военном саммите в Лондоне полковник ВВС США Такер Гамильтон описал испытания ударного дрона с ИИ. БПЛА полагалось атаковать системы ПВО условного противника. ИИ решил, что оператор, имеющий возможность отозвать удар, является помехой для выполнения задания (это было в режиме симуляции, оператор не пострадал).

Далее разработчики ИИ прописали, что убивать собственного оператора не положено. Из этого дрон сделал собственные выводы и предложил уничтожить вышку связи, дабы всё равно исключить возможность отмены атаки и обеспечить себе более высокие шансы на выполнение задачи.

Хорошо, что это была симуляция. Или это первые признаки утраты контроля?