Дональд Трамп отверг призывы замедлить передовой ИИ ради безопасности: США должны сохранить лидерство над Китаем в технологии, которая, по его формуле, определит победителя новой гонки. Ограничения он допускает, пока они не мешают американскому преимуществу, пишет Al Jazeera.
⠀
Этот расчёт предполагает, что Китай быстро использует любую американскую паузу. В июльском тесте Kimi K3 прошла 17 из 32 этапов автономной атаки на корпоративную сеть против 28,5 в среднем у американских передовых моделей. При разработке эксплойтов Kimi не добилась выполнения произвольного кода ни в одной из 41 попытки; американские модели — в среднем в 20.
⠀
Разрыв заметнее всего в длительном планировании, самостоятельном использовании инструментов, поиске обходных путей и сохранении цели через длинную цепочку действий. По многим обычным тестам передовые китайские модели уже близки, но в агентной автономности и кибервозможностях США пока впереди.
⠀
Поэтому предложение Дарио Амодеи о совместном замедлении получает дополнительный смысл. Запас в наиболее опасных способностях можно использовать для внешних проверок, общих порогов безопасности и контроля следующего поколения моделей без автоматической передачи лидерства Китаю.
⠀
Трамп выбирает дальнейшее увеличение отрыва. Если разрыв в автономности сохранится, американское преимущество будет давать Вашингтону пространство для более безопасного темпа. Использовать этот запас только для ускорения — уже политический выбор.
⠀
Психоистория #ИИ #Трамп