Правительство США запретило Claude Fable 5
И Антропики покорно закрыли всем доступ к нему. Деталей достаточно мало. Вот что мы знаем:
• Этой ночью (вечером в США) правительство США прислало требование ограничить доступ к Fable 5 и Mythos 5 моделям для всех иностранцев за пределами и даже внутри США.
• Причина: мол ограничения Fable и Mythos можно обойти и заставить модель делать плохие вещи — в отношении моделей это называют джейлбрейк (jailbreak).
• Антропики спорят, что джейлбрейкнуть ограничения можно только минорно. И если придираться к таким мелочам — то нужно ограничивать все фронтирные модели.
• На днях Дарио Амодей, глава Антропик, выпустил эссе про регулирование развития AI, где в явном виде упомянул, что государство должно иметь право банить модели при явно небезопасном деплойменте. Не известно, видели ли это эссе в правительстве или нет, но получилось иронично. Антропики даже в официальном заявлении по поводу ограничений Fable были вынуждены неуклюже написать "да, правительство могут ограничивать модели, но это другое..." 😁
• Несмотря на несогласие с требованием правительства — Антропики подчинились и закрыли доступ для начала вообще всем. Потому что механизма надежного дифференцирования аккаунтов между иностранцами и неиностранцами, особенно на территории США нет.
• Антропики обещали прояснять ситуацию и держать всех в курсе.
Что это было?
Первая гипотеза: Правительство США действительно настолько поверили в нарратив Антропиков о безграничной мощи модели, что не хотят другим странам давать к ней доступ. Допустим. Как часть AI противостояния с Китаем. Быть может они не хотят, чтобы китайцы дистиллировали модель. Но неужели они настолько наивны, что думают, что невозможно будет обойти ограничения по непредоставлению доступа для иностранцев? Если что-то запретить — взломать это становится спортивным интересом! Поэтому верится в эту теорию только от части.
Вторая гипотеза: дядя Альтман настолько приобрел влияние в правительстве США, что мочит конкурентов без стыда и совести. Вполне вероятно. Ведь кто сильнее выигрывает от этого всего, как не OpenAI? Но это опасная игра, ведь это может отрикошетить и в модели OpenAI. О чем, кстати, Антропики позаботились, упомянув в своем заявление, что с такими ограничениями стоило бы запретить в том числе и GPT-5.5 😈
Одно понятно — маркетинговая (а может и не только маркетинговая) стратегия Антропика по размахиванию своими "супермощными моделями, которые нужно держать на цепи" — сыграла против них. А отношения с американским правительством все еще накаленные.
Заместители
Post #330
2.16K

- 🤔 13
- ❤ 9
- 👍 2
- 🌚 2
- 🙊 2
- 🐳 1