Начало поста выше ⤴️

Почему нельзя просто остановиться?
Просто взять и замедлиться на самом деле не получится.

Если внимательно послушать, о чём говорит Дарио, то станет понятно, что он настаивает, на том, что замедлиться должны все. С одной стороны это понятно: если притормозит один Anthropic, а остальные нет, компания потеряет преимущество.

Но гораздо важнее другое - даже если притормозят все американские лаборатории, останется Китай. А ты попробуй убеди Пекин приостановиться.

Тут возникает политический аспект, а именно реальная перспектива утраты лидерства США в пользу Китая. Министр финансов Скотт Бессент сказал, что в случае лидерства Китая «ничто другое уже не будет иметь значения». У того, кто впереди, будет преимущество во взломах, разведке и гибридных операциях, и отдавать его никто естественно не хочет.

Здесь также нужно понимать, что страны по-разному трактуют то, о каких рисках и правилах нужно договариваться:

• американская дискуссия сейчас сильно сосредоточена на потере контроля и экзистенциальных рисках

• китайские регуляторы больше говорят о уже существующих проблемах: кибератаках, распространении чувствительной информации.

И все же если договориться?
Трамп собирается принять Си Цзиньпина в Белом доме 24 сентября, но вопрос согласованности действий в отношении ИИ вряд ли будет первым на повестке.

К тому же, даже если договориться на словах получится, каждой стороне нужна уверенность, что другая условно не рванёт вперёд. То есть нужна проверка. А это ещё одна проблема.

Запрет ядерных испытаний в 1963 году стал возможен именно потому, что их нельзя было скрыть. К слову, подземные взрывы продолжались ещё около тридцати лет, пока их не научились фиксировать.

С ИИ ситуация сложнее: дата-центры, конечно, видно, но заглянуть внутрь нельзя, а инфраструктура, обучающая сверхинтеллект, может выглядеть как обычный чат-бот.

Что остаётся?
Как минимум обе стороны могли бы публиковать и расследовать инциденты безопасности в своих лабораториях в рамках национального законодательства. Это не решает проблему гонки, но создаёт хотя бы минимальную прозрачность и позволяет другим участникам понимать, какие риски уже материализовались.

Хотя признаться пока все это выглядит как по учебнику в известной всем диллеме: каждому игроку рационально продолжать гонку, даже если коллективно было бы безопаснее нажать на тормоз 🙈

👉🏼Anthropic может замедлиться и потерять долю рынка
👉🏼США могут замедлиться и дать Китаю возможность себя догнать
👉🏼Китай может согласиться на паузу и опасаться, что Вашингтон втайне продолжит разработку.

В результате каждый получает стимул не доверять остальным и продолжать ускоряться. Звучит это все конечно мягко говоря апокалиптически, но нам как инвесторам, надо быть готовым ко всему)))