Вот именно по этому ИИ — это как новое ядерное оружие. И вот почему страны участвуют в гонке этого вооружения.
Потенциал рисков колоссальный. Если антропики действительно сделали такую систему, значит её можно повторить. Вопрос времени когда это произойдёт.

А натворить с помощью этого оружия можно очень много дел, например: полностью уничтожить цифровую экономику страны или целового региона.
Представьте, что всё что разрабатывали последние 30 лет безопасники — это полная хуйня по сравнению с нейронкой которая за пару секунд находит дыры в защите и удаляет\шиврует все данные целового банка или огромного гос-ведомства.