⚡️ ИИ на пороге полной автономии: стартап Anthropic бьет тревогу из-за риска появления нейросетей, способных развиваться без участия человека.

В своем новом докладе исследовательское подразделение компании предупреждает о близости эпохи рекурсивного самосовершенствования (когда ИИ сам пишет код и обучает свои улучшенные копии). По прогнозам аналитиков, в таком сценарии эволюция технологий ускорится до дней или даже часов. Как пишет The Online Citizen, бесконтрольный процесс может лишить человечество возможности управлять собственными технологиями.

【Выход】 Чтобы избежать катастрофы, авторы манифеста предлагают создать международный механизм контроля:

▸ ① Глобальная координация — объединение ведущих ИИ-лабораторий мира для обмена данными.
▸ ② Контроль мощностей — совместный мониторинг создания наиболее продвинутых моделей.
▸ ③ Временная пауза — готовность синхронно замедлить разработки, если риски выйдут из-под контроля.

🔸Токен за токеном...