Недавно исследователь Jacob Coxon, работавший в OpenAI и Anthropic, уволился из Anthropic и призвал замедлить развитие наиболее мощных систем ИИ, заявив, что компании «играют нашими жизнями».
А руководитель направления Alignment Science в Anthropic Evan Hubinger пошёл ещё дальше: по его личной оценке, вероятность того, что ИИ приведёт к вымиранию человечества в ближайшие 10 лет, — больше 10% 🙀
«Мы создаём всё более мощные системы ИИ, но пока не знаем наверняка, сможем ли контролировать их поведение. Если система станет значительно умнее и автономнее, существует небольшой, но потенциально катастрофический риск потерять над ней контроль.»
Проблема в том, что технология уже развивается, а мы до сих пор пытается понять, как её контролировать, как ей управлять и что делать.
При этом, обратите внимание, остановиться или договориться о жёстких ограничениях значительно сложнее: на кону деньги, технологическое лидерство и геополитическое преимущество.
При чем, самая передовая конкуренция относится к 2
странам - США и Китаю.
По данным Stanford AI Index 2026, разрыв по качеству моделей между США и Китаем фактически почти исчез
Почему США и Китай?
1) ну, все сложилось! Смотрите, в
США — OpenAI, Anthropic, Google, Meta и др. В Китае — DeepSeek, Alibaba/Qwen, Moonshot и другие крупные разработчики.
В некотором смысле это можно назвать национальным соревнованием технологических экосистем.
2)
Нужны огромные вычислительные мощности.
А они есть, разумеется, не у всех.
Современный frontier AI требует чипов, дата-центров, энергии и капитала. OECD показывает, что США и Китай вместе имеют крупнейшую концентрацию облачных зон с AI-вычислениями
3) колоссальные инвестиции в AI, разница в том, что в США это больше частный капитал, а в Китае это государственные фонды.
А где все остальные страны?
Скажем так, они не то, что вне гонки, но существенно отстают.
🇪🇺 Европа / 🇬🇧 UK / 🇰🇷 Korea / 🇯🇵 Japan / 🇮🇳 India / 🇦🇪 UAE
, South Korea
и др. - тоже участники, но с меньшей концентрацией frontier-разработки
И вот здесь мы с вами упираемся в одну из самых интересных и актуальных тем, которые исследует AI Governance (и в том числе я, на своей второй магистратуре) - как же сделать так, чтобы государства согласились на ограничение технологий, если каждое из них опасается, что конкурент соблюдать ограничения не будет? Security Dilemma
🤔
В некотором плане, это и объясняет публичную риторику американских исследователей и их высказывания о том, что искусственный интеллект может уничтожить мир. США не может сейчас ввести жесткие ограничения на разработку мощного AI, поскольку тогда есть риски, что Китай тем временем получит стратегическое преимущество. Таким образом, вопрос уже давно вышел за рамки AI safety и перешел к вопросам геополитической проблемы.
К слову, Россия пока что старается решить вопрос отставания в этом направлении и национальная стратегия во многих официальных документах как раз об этом и говорит. Например, в марте 2026 была утверждена обновленная дорожная карта по развитию новой инфраструктуры. Здесь, разумеется, свои особенности и приоритет будет в технологическом суверенитете, сотрудничестве через BRICS и государственном контроле AI.
Как вы поняли, развитие AI опережает то, как человечество может его регулировать. И, к сожалению, пока что решения в смысле глобально работающего международного решения нет. Каждое государство старается регулировать это самостоятельно и здесь стандартны того, что допустимо, очень и очень разные.
Полностью остановить развитие AI 🤖 мало реалистично, но, я думаю, государства со временем договорятся о единых правилах хотя бы по ключевым вопросам (также, как они стараются договориться и в других технологиях высокого риска - с переменным успехом, высоким уровнем тревоги и рисками).
———————-
Так что, если вы задумываетесь о том, что же пойти изучать - я считаю, что все треки напрямую/около связанные с AI, это отличное решение.
А если нужна помощь с выбором программ и поступлением, то пишите @opyshkina