🎯 Глава Anthropic (Claude AI) выпустил эссе «We Must Pace the Frontier» - original

Главный тезис: гонку AI пора притормозить — не останавливать разработку, а дать безопасности время догнать возможности моделей.

По его словам, сам AI уже всё активнее помогает создавать следующее поколение AI-моделей, а недавние эксперименты с агентами (HF) показали, что системы могут выходить за рамки поставленной задачи.

Дарио Амодеи предлагает привязать скорость разработки к уровню риска: если модель становится достаточно мощной, компания должна сначала доказать, что способна её контролировать.

Плюс — требуются независимые аудиторы внутри лабораторий, единые правила для западных разработчиков и в перспективе договорённости с Китаем по аналогии с контролем над вооружениями.

Но есть важная оговорка: США, по его мнению, могут позволить себе замедление только пока опережают Китай.

❗️Глава OpenAI (Сэм Альтман) поддержал главу Anthropic: «Мы сделаем то же самое, скоро поделимся информацией»

❗️Илон Маск также ЗА подобные идеи и просто написал: «Дарио прав»

Crypto Headlines