Создатели ИИ предупредили: системы могут ускорить собственную разработку

ИИ все активнее участвует в создании новых ИИ-систем. Авторы исследования CASP предупреждают: если улучшенные модели начнут ускорять разработку своих преемников, год обычного прогресса может уместиться в несколько недель.

Признаки уже есть: Anthropic поручала Claude ведущую роль примерно в 26% изученных внутренних R&D-задач и использовала около 30 тысяч ИИ-агентов. Исследователи призывают заранее создать независимый контроль и механизмы остановки — после начала резкого ускорения времени на реакцию может не хватить.

🔗 Читать: https://mltimes.ai/sozdateli-ii-predupredili-sistemy-mogut-uskorit-sobstvennuyu/