Проблема не в том, пожалеет ли нас будущий суперинтеллект. Проблема в том, что до него ещё надо дожить, а пока государства и корпорации, как пишет Дмитрий Анатольевич, играют в старое доброе «моё кун-фу сильнее твоего»: мой ИИ быстрее, умнее, дешевле, лучше считает ракеты, деньги и людей. Договориться всем остановиться примерно так же реально, как договориться перед войной пользоваться только палками. Поэтому победит не самый осторожный, а тот, кто первым решит, что осторожность – для конкурентов. А потом, возможно, уже ИИ будет решать, чьё кун-фу было сильнее.