Мне реально сложно представить, да и это невозможно предугадать никак вообще — что будет когда модели на всю катушку начнут юзать RSI. Инженер Гугла тут явно понимает о чём говорит, прочитайте мой предыдущий пост об RSI, слухи ходили именно о Гугле.

Представьте модель, которая улучшает себя, улучшает инфраструктуру вокруг себя, процессы, потом опять улучшает себя, инфраструктуру, процессы — и так до бесконечности.

Вопрос будет только в том когда её останавливать. Ну или возможно ли будет её остановить.

Это именно то, из-за чего все здравомыслящие специалисты на планете призывали остановить гонку ИИ. Никто не знает что с человечеством сможет сделать сверхинтеллект. Может что-то хорошее. А может нет.