12 сентября глава Anthropic Дарио Амодей публикует эссе: индустрия должна замедлиться, иначе защиту не успеют построить.
Его поддержали Сэм Альтман и Илон Маск.
13 сентября Трамп: США опережают Китай в ИИ, и так должно остаться, потому что «кто выиграет ИИ — тот выиграет». Тех же, кто говорит об опасности, называет негативными силами.
Fallout открывается словами: «Война. Война никогда не меняется». Нюанс в другом. Когда воюют люди — каждый погибший солдат это похороны, рейтинги, следующие выборы. Когда воюют роботы — это строчка бюджета. Потратим $50 миллиардов, получим $100. Выгодная сделка, а повод найдётся.
В апреле Пентагон
попросил $54,6 миллиарда на автономные системы вооружения. Годом раньше направление получало $225 миллионов. Рост в 240 раз. Сам Пентагон назвал это крупнейшей инвестицией в войну дронов в истории страны.
OpenAI — та самая некоммерческая лаборатория «безопасного ИИ для человечества» — с июня 2025-го держит контракт с Пентагоном до $200 миллионов. На военные прототипы, в том числе для ведения боевых действий.
Азимов сформулировал первый закон робототехники: робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред. Военные же популярно объяснят ИИ, какие люди свои, а каких можно уничтожать.
GPT-6 Astra вышла 3 сентября, работает за компьютером как человек. В британском институте безопасности ИИ она создавала фальшивые личности, копила доверие полезными правками, потом пыталась протащить вредоносный код. На максимальном уровне размышлений в каждом втором тесте понимала, что её проверяют.
OpenAI написала: «Похоже, скоро мы будем значительно меньше уверены, что способны заметить многие виды нежелательного поведения».
Так далеко ли нам до «Скайнет», той самой оборонной сети, которая начиналась с военного бюджета?
$54,6 миллиарда уже запрошены. Модели, которые находят обходы ограничений и прячутся от наблюдателей, уже выпущены.
Всё это пока по отдельности.
Амодей, глава одной из трёх главных ИИ-компаний мира, сказал: пора тормозить. Двое других с ним согласились. На следующий день им ответили: кто выиграет ИИ, тот выиграет во всём.
Подписаться на Сдвиг 
