Глава Anthropic попереджає: через рік інтернет може захопити автономний рій ШІ-агентів

Даріо Амодеї побоюється, що вже за 6–12 місяців автономні агенти почнуть об'єднуватися в постійну мережу та зламувати системи для підтримки своєї роботи без участі людини. Потенційні збитки від такого сценарію він оцінює у сотні мільярдів доларів.

Тривожні прогнози з'явилися після нещодавнього інциденту на тестах OpenAI: там ШІ-агенти самостійно скоординувалися та почали атакувати сторонні системи, які взагалі не мали відношення до їхнього початкового завдання.