Еще не смотрел, но все-таки уже рекомендую. По поводу апокалипсиса в связи с развитием ИИ. Я не варюсь в этой сфере 10+ лет, и всего лишь вайбкодер (зато активно практикующий), но я точно могу сказать, что ИИ может, в общем-то уже сейчас при должной настройке и обвязки выполнять работу почти за любого человека в моей конторе (и 90+ % моей работы тоже). Темпы его развития потрясают, и остановки не предвидится.

В этой связи я скорее ожидал бы увидеть такой сценарий - рано или поздно случится инцидент, который не умертвит человечество, но нанесет кому-то серьезный урон. Мощный блэкаут, остановка электронных платежей, какой-то вирус (не дай Бог). Если это будет реально серьезно, но не смертельно, это может заставить соревнующиеся стороны немного протрезветь - я бы сказал, просто поставить под контроль государства любую мало-мальски крупную контору-разработчка ИИ и датацентры. Это если повезет.

Если же нейронки станут слишком умными и не успеют серьезно накосячить по пути, может случиться, что нас вырежут с первой попытки... Хочется думать, что это просто маловероятно.

Эта история, мне очень напоминает вопрос о том, почему когда евпропейцы приехали в Америку, там не было лошадей. Изначально они в Америке обитали, перешли туда через Берингов пролив. И люди пришли туда так же, но только позже. При этом, когда человек дошел до Америки, он уже был настолько продвинутым и хорошим охотником, что просто выкосил лошадей - быстро съел, не успев приручить. В следующий раз индейцы увидели лошадей только вместе с европейцами.

А вот на Ближнем Востоке, где были приручены все основные животные - лошади, коровы, свиньи, козы, собаки и пр., человек был еще не таким сильным, и дольше обитал в одном ареале с животными, что дало время на их приручение.

В этом смысле темп развития нейронок действительно может оказаться важным - если будет время, возможно, будет проще приручать другого. Кого - нейронку или человека, решайте сами.

PS. Ну а дискуссия по ссылке (посмотрел) о страхах по поводу ИИ нудновата слегка. Можно было бы и что-то поинтереснее сообразить.