Тревога в США и особенно Долине по поводу угрозы выхода AI из-под контроля.
- Есть все основания для тревоги и срочных мер по безопасности. Уже Flabe\Mythos 5 в июне официально вышли на грань угрозы уровня С2 по классификации, принятой в Пентагоне. Следующая версия Mithos и тем более создающаяся внутри Anthropic еще более передовая модель - априори должны уже превзойти уровень С2 и приблизиться или достичь уровня С3.

Конкурирующие модели других корпораций лишь ненамного отстают от Anthropic или даже сопоставимы с нею.

Происходящее вписывается в график предупреждения о вероятности глобальной техногенной катастрофы, которые озвучивались специалистами в области техногенных рисков перед Парижским саммитом по AI: пик угрозы - примерно 2027.

- Все предложенные меры, кроме самоограничения корпорациями - запоздалы. Ибо уровень С3 уже должен быть достигнут или почти достигнут.

- Самоограничения корпорациями - это фактическое формирование американского картеля в области AI, который выдвигает глобальные амбиции. Это - нормально для эпохи нового оружия поражения, связанного с AI. Но это очень проблематично на практике в силу бюрократизации системы международных отношений.

Скорее всего миру сначала придется пройти через шоковое осознание возникших угроз.

- Все предлагаемые сейчас в США меры не касаются силового сектора. То есть активность корпораций в области AI просто заметно сильнее засекречивается и в большей степени, чем раньше, перенаправляется на государственные нужды.

Наиболее известный источник по этой теме: https://darioamodei.com/post/we-must-pace-the-frontier