Несколько недель почти ничего не писал в канале.
Не потому, что нечего сказать - даже наоборот.
Просто всё свободное от работы время уходит на несколько собственных проектов, про них расскажу отдельно чуть позже, когда будет что показать.
Но по поводу одной из тем молчать не получается. На этой неделе в мире ИИ происходило то, что стоит разобрать.

Anthropic - компания, которая делает семейство нейросетей Claude (последние месяцы - основной ИИ инструмент в моей работе), - выпустила новую модель под названием Fable 5.
Для тех, кто не следит за этой сферой: нет, это не очередное плановое обновление раз в пару месяцев, а значительный шаг вперед

У Anthropic есть внутренняя линейка моделей под названием Mythos. Слишком мощные, чтобы выпускать без присмотра, - их давали только узкому кругу проверенных партнёров, вроде специалистов по кибербезопасности.
Fable 5 - первая из них, которую опубликовали в открытый доступ. По сути та же модель из закрытой линейки, только сильно урезанная в плане безопасности - иногда до смешного: отказывалась отвечать даже на достаточно безобидные вопросы.

Впечатлило людей не то, что она стала «умнее» в смысле лучших ответов на вопросы. А то, что ей можно отдать большую, плохо сформулированную задачу - и она доведёт её сама, не теряя нить. Раньше модель приходилось вести по шагам, иначе она уходила куда-то не туда и возвращалась с уверенным, но неправильным ответом.

Андрей Карпаты - один из самых известных людей в области AI, как раз недавно перешедший на работу в Anthropic, - написал, что впервые так и тянет вообще не смотреть в код, настолько ей можно доверить вести работу.
Программист Саймон Уиллисон назвал её «зверем» и сказал, что теперь сложно найти задачу, которую она не может.

За несколько дней после релиза случилось разное. Stripe - крупный платёжный сервис - переписал с её помощью свою кодовую базу на пятьдесят миллионов строк за один день; сами рассчитывали, что на это уйдёт около двух месяцев работы целой командой. Один разработчик дал ей покопаться в своём проекте - она написала тест, нашла настоящие баги, которые он сам пропустил, и заодно починила пару старых проблем, о которых её не просили. А ещё люди по одному текстовому описанию собирали в браузере рабочий клон Minecraft - минут за двадцать.

Открыли доступ в рамках платных тарифов - формально бесплатно, если подписка уже есть. Но модель жгла токены так быстро, что даже на максимальном тарифе за 200 долларов в месяц, недельный лимит выгорал за несколько часов. Люди докупали по второй и третьей подписке, лишь бы успеть побольше, пока дают.

Через три дня после релиза во всё вмешалось правительство США.
Министр торговли направил директиву главе компании: закрыть доступ для всех иностранцев, включая собственных сотрудников Anthropic без американского гражданства. Отделить иностранца от американца в общем потоке в реальном времени для Anthropic было просто невозможно - поэтому пришлось вырубить Fable 5 для всех пользователей во всём мире.
Официальная причина - риски безопасности, якобы модель можно уговорить искать уязвимости в чужом коде.
Anthropic с этим не согласна и обещает доступ вернуть, но когда - неизвестно, да и не факт, что у них это получится.

Сказать, что это было совсем неожиданно, сложно: уже несколько лет специалисты обсуждают, что рано или поздно сильные модели придут к подобным ограничениям - по сути, к доступу по паспорту (ну ничего, посмотрим ещё, как американцы будут смеяться, когда им в ответ отключат Алису)
Но прецедент всё равно серьёзный: чтобы готовую публичную модель вот так разом выключили по государственной директиве - такого ещё не было.

Есть тут и более простая мысль. К хорошей модели быстро привыкаешь - и возвращаться потом на что-то медленнее и глупее уже тяжело. Открытые модели пока заметно слабее топовых закрытых, зато ту, что один раз скачал к себе, уже не отнимут одной кнопкой - ни по чьему требованию. А тут что дали, то и забрали. И если модель живёт не у тебя, а на чужих серверах, однажды она может стать недоступной совсем.
А раз доступ к ключевой модели можно выключить одним внешним решением, зависимость от чужого провайдера - это уже не удобство, а уязвимость. Причём не теоретическая, а сегодня уже вполне практическая. Так что держать модель локально - это давно не про «сэкономить» и не про игру в технологический суверенитет, а способ не оказаться в ситуации, когда твой рабочий контур выключают чужим решением.

Ну и напоследок - забавная мысль крутится у меня сегодня в голове. Карпаты, один из важнейших людей ИИ индустрии, только в мае перешёл работать в Anthropic и всё это время громко расхваливал новое семейство моделей. Американского паспорта у него, насколько я понимаю, нет.
Интересно, его самого от работы над топовой линейкой моделей тоже отстранят?