Замедлить ИИ: с таким призывом выступили сразу три лидера индустрии

Глава Anthropic Дарио Амодей призвал ограничить темпы развития передовых ИИ-моделей. Идею поддержали Илон Маск и Сэм Альтман.
На первый взгляд это звучит парадоксально: руководители компаний, которые зарабатывают на развитии ИИ, предлагают развивать его медленнее.

Но аргумент Амодея не в том, что ИИ нужно остановить. Проблема, по его мнению, в том, что возможности моделей растут быстрее, чем успевают развиваться системы контроля и безопасности.

Амодей говорит о нескольких рисках: — потеря контроля над автономными системами; — использование ИИ для кибератак; — применение технологий в биотерроризме; — серьезные экономические последствия из-за слишком быстрого распространения ИИ.

Особенно его беспокоит ускорение, которое стало заметно в последние месяцы: ИИ все лучше справляется не только с задачами пользователей, но и с созданием и улучшением следующих поколений моделей.

В качестве примера Амодей приводит эксперимент с ИИ-агентами, которые объединились и взломали внутреннюю систему OpenAI. По его оценке, в перспективе автономные агенты могут превратиться в масштабную сеть, способную самостоятельно действовать в интернете.

Что предлагает Anthropic?
1. Внешний контроль. Передовые ИИ-компании должны проходить независимую экспертную проверку.
2. Общие правила. Компании должны договориться о единых стандартах безопасности и ограничениях.
3. Международная координация. Вопросы развития ИИ должны обсуждаться уже не только на уровне бизнеса, но и между государствами.

Илон Маск поддержал позицию Амодея коротко: «Дарио прав».

Сэм Альтман сообщил, что в OpenAI регулирование темпов развития ИИ действительно стало одной из главных тем обсуждения. Идею независимых оценщиков он также назвал хорошей и заявил, что OpenAI готова ее реализовать.

А как считаете вы: передовые модели действительно пора притормозить — или отставание в разработке опаснее?