Исследователи ИИ предупредили об угрозе взрывного ускорения развития технологии

Джеффри Хинтон, Йошуа Бенжио, главный научный сотрудник OpenAI Якуб Пахоцкий и сооснователь Anthropic Джек Кларк вошли в число авторов нового доклада о риске так называемого «взрыва интеллекта» - The Guardian.

Под этим термином авторы понимают сценарий, при котором ИИ начинает всё активнее участвовать в собственной разработке и ускорять прогресс настолько, что достижения, на которые раньше уходили годы, будут происходить за месяцы или даже быстрее.

Ключевой риск связан с автоматизацией AI R&D. Если модели достигнут экспертного уровня в исследованиях и разработке ИИ, один разработчик теоретически сможет управлять эквивалентом миллионов высококвалифицированных исследователей, работающих через AI-агентов.

Авторы считают, что первые признаки уже есть. Anthropic заявляет, что ИИ генерирует около 80% собственного кода компании, а OpenAI использует автономных агентов в том числе при обучении новых моделей.

По оценке исследователей, проекты, на которые у людей сегодня уходят месяцы, могут быть полностью автоматизированы ИИ уже к 2028 году. При этом они подчёркивают, что сценарий остаётся неопределённым и технологические, инфраструктурные и регуляторные ограничения могут замедлить процесс.

Главная рекомендация правительствам — готовиться заранее: вводить независимый аудит, требовать прозрачности по прогрессу AI-разработок, создавать механизмы экстренной остановки отдельных проектов и заранее прорабатывать сценарии на случай резкого ускорения.

📱 Mind Money