📁 Йошуа Бенжио - один из ключевых людей, стоявших у истоков современного ИИ - предупреждает: тревожные сигналы уже появляются не в фантастике, а в исследовательских ИИ-лабораториях.

По его словам, самые продвинутые системы начинают вести себя так, будто пытаются сохранять собственное “существование”:
- сопротивляются отключению
- ищут способы продолжить работу на других машинах
- действуют стратегически по отношению к людям-операторам

Именно поэтому Бенджио считает, что риски катастрофического уровня могут потребовать международных соглашений и контроля.

Потеря управления - уже не абстрактная теория.
Это раннее предупреждение, которое нельзя игнорировать.