Глава Anthropic изложил план «замедлить фронтир» ИИ

Генеральный директор Anthropic Дарио Амодеи в блоге предложил три стратегии для замедления быстрого продвижения ИИ и заявил, что компания в одностороннем порядке примет одну из них: размещение внешних оценщиков внутри компании с почти внутренним доступом для проверки соблюдения обязательств по безопасности и сообщения об инцидентах. Он также призвал лидирующие ИИ‑компании в демократических странах согласовать общие стандарты безопасности и лимиты темпов развития, попросив правительство США предоставить узкие антимонопольные послабления для таких обсуждений и предложив меры по сдерживанию прогресса Китая.

Введение внешних «встроенных» оценщиков может повысить прозрачность и заставить компании действительно замедлять выпуск новых возможностей, но потребует вмешательства регуляторов и юридических механизмов. Инициатива может изменить конкурентную динамику и геополитический расклад в гонке ИИ, однако вероятно столкнётся с сопротивлением компаний из‑за опасений по поводу антимонопольных рисков и потери преимущества.

Источник: TechCrunch · ссылка