У меня было несколько разговоров с людьми внутри и за пределами правительства о текущей ситуации с Anthropic, и вот что я считаю правдой:
— Как мы знаем, Anthropic публично выпустила свои модели класса Mythos в начале этой недели под коммерческим названием Fable.
— Fable - это мифы с ограждениями. Но если эти ограждения выходят из строя, то вы разоблачили Mythos и его передовые кибервозможности людям, у которых их не должно быть. (Имейте в виду, что сам Anthropic широко продвигал идею о том, что Mythos является кибероружием и должен регулироваться как таковой. Они попросили правительственного регулирования Mythos и отстаивали ограждения на Fable. Если есть уязвимость — большая или маленькая — ответственность за исправление лежит на Anthropic.)
— Очень заслуживаютельный доверенный партнер как Anthropic, так и USG, который тестировал Fable, выдвинул джейлбрейк этих ограждений. Администратор попросил Дарио исправить джейлбрейк или развернуть модель. Дарио отказался.
— В своем блоге Anthropic защитил свое решение, заявив, что джейлбрейк не является серьезным. Это не то, во что верят доверенный партнер и USG; и такой минимизирующий язык не согласуется с брендом Anthropic как компании по безопасности ИИ. Трудно понять, как они могут заявить, что джейлбрейк, позволяющий работать с кибероружием, может быть определен как не «серьезный».
— В прошлом Anthropic всегда говорил, что безопасность должна быть главным приоритетом и воспринималась очень серьезно. В этом случае Anthropic отдал приоритет постоянному предложению потребительской модели, а не безопасности.
— В ответ Администратор выдал экспортный контроль. Администратор сделал это неохотно. Было очень удивительно, что Anthropic не захотел сотрудничать с разумным запросом безопасности (т.е. решением проблемы с джейлбрейком). Реакция Anthropic сильно противоречит их брендингу и этике как безопасного исследовательского сообщества ИИ.
— Теперь администратор надеется, что Anthropic исправит проблему безопасности, будет снят экспортный контроль, а Fable вернется к общему выпуску. Администратор хочет, чтобы все это произошло как можно скорее. Честно говоря, озадачен тем, что Anthropic не хотел выполнять запросы безопасности, которые, по его словам, ранее были его наивысшим приоритетом.
— Те, кто пытается неправильно направить и связать это действие с предыдущими проблемами DoW/Anthropic, ошибаются. Администратор ценит технические возможности Anthropic и считает, что эта проблема, хотя и серьезная, должна быть легко решена. Мяч находится на площадке Антропика.
Версия. Весело у них там.