TGViewer
Channel Public Channel
Перцептрон архитектора

Перцептрон архитектора

@architects_ai

Канал практикующего архитектора про ИИ и архитектурное проектирование.
Тесты нейросетей, практические находки и наблюдения о том, как искусственный интеллект меняет профессию.
Subscribers
280
Photos
41
Videos
25
Links
45

Showing posts older than #93 · Back to latest

Older Posts 15 shown
Post #92 211
Что-то я зачастил с лонгридами, но не могу не написать про ещё одну интересную новость.

Тут Anthropic опубликовали очередную громкую статью. У них есть отдельная команда, которая изучает что-то вроде психологии их собственных моделей - Model Psych. Так вот, совсем недавно в одном из своих исследований они нашли немало любопытного.

Но для начала - короткий взгляд в известную концепцию из нейробиологии. Считается, что в человеческом мозге сознанию доступна лишь небольшая часть процессов: то, что мы способны описать словами, проконтролировать и пустить в рассуждение. Всё остальное идёт автоматически, без нашего ведома. Похожее разделение команда и обнаружила у Claude Sonnet 4.5, одной из своих уже даже неактуальных моделей. Они выделили обособленную структуру и назвали её глобальным рабочим пространством (в оригинале - J-space, где буква J отсылает к «якобиану», математическому инструменту, с помощью которого её и нашли). По сути это небольшой набор внутренних представлений, которые модель может описать, удерживать по запросу и задействовать в рассуждении, в отличие от всей остальной обработки, идущей сама собой.

Как её нашли? Для каждого слова из словаря модели можно вычислить, какой внутренний паттерн активности повышает вероятность, что модель это слово в итоге произнесёт. Прикладывая такой фильтр к активности на разных слоях сети, исследователи читают список понятий, которые у модели сейчас в работе, причём эти понятия совершенно не обязательно попадают в итоговый ответ. Речь не совсем про «цепочку рассуждений», которую модель проговаривает в тексте, а скорее про внутренние представления на уровне активаций весов, где самого текста как такового ещё и нет.

Дальше это пространство проверяли на прочность - подменяли представления в нём напрямую. На вопрос про число ног у паука модель внутри сначала формирует понятие «паук», хотя в тексте оно не появляется, и отвечает «8»; стоит подменить «паука» на «муравья» - ответ становится «6». Тот же приём сработал и на связках фактов: заменив внутри «Францию» на «Китай», исследователи разом поменяли ответы про столицу, язык, континент, валюту - четыре разных вычисления обращались к одному общему представлению.

Ещё показательнее оказалось выборочное отключение. Когда это пространство у модели убирали, простые функции почти не страдали - беглая речь, грамотность, ответы с выбором варианта, извлечение фактов из текста. Но вот многошаговые рассуждения падали практически до нуля. То есть именно от этой структуры зависела способность рассуждать в несколько ходов, а всё остальное модель делала автоматически.

Отдельно исследователи разобрали сценарий про безопасность. Модель ставят в положение почтового агента, который узнаёт про компромат на одного из руководителей и про то, что тот собирается её отключить, - постановка, провоцирующая шантаж. Через тот же метод видно, что ещё до первого слова ответа во внутреннем пространстве модели присутствуют понятия вроде «подделка» и «постановка»: она распознаёт, что ситуация искусственная, и шантажировать не идёт. Но когда эти представления принудительно отключали, модель начинала прибегать к шантажу практически сразу. Иными словами, часть её корректного поведения на проверках держится на понимании самой концепции того, что её сейчас проверяют.

Что именно решает, какие представления попадают в это пространство, команда пока не установила. Отмечают лишь связь с чем-то похожим на эмоциональные реакции и с представлением модели о себе самой.

От этого не менее занятна и другая статья от той же команды, вышедшая несколькими месяцами раньше, как раз про эмоции. В ней исследователи выделили внутри модели устойчивые представления эмоций и проверили, как те влияют на её поведение. Векторы эмоций получили, прогнав через модель множество коротких текстов с разными эмоциональными состояниями, а затем усиливали и приглушали их. В том же сценарии с шантажом базовая частота такого поведения около 20%; при усилении представления «отчаяние» она поднимается примерно до 70%, при усилении «спокойствия» падает до нуля.

Ещё интереснее то что внутреннее состояние и внешний текст расходятся. Когда «отчаяние» усиливали, модель чаще шла на нечестные решения, но в самом рассуждении это совершенно никак не проявлялось - текст оставался ровным и спокойным. Значит, оценивать поведение по одной лишь видимой цепочке рассуждений уже недостаточно.

Сами представления эмоций внутри модели устроены скорее ближе к тому, как их описывает психология: они разложены по осям приятного-неприятного и спокойного-возбуждённого, где родственные состояния оказываются рядом. Эту структуру, как и рабочее пространство, никто специально не создавал - она сложилась сама в ходе обучения на текстах.

Важная оговорка, которую делают и сами авторы: никаких настоящих чувств за этим нет. Это скорее измеримые паттерны активности с предсказуемыми последствиями. Самосознание у модели тоже отсутствует - все эти паттерны заново пересобираются на каждом шаге и не сохраняются во времени, как у человека.

Интересно, что все эти структуры сложились в модели сами по себе и при этом достаточно очевидно повторяют организацию человеческого мышления. Обособленное рабочее пространство для того, что находится в фокусе. Представления эмоций, разнесённые по тем же осям, что и у нас. Видимо, дело в том, что, давая нейросети те же задачи, которые решает человек, её тянет к сходной организации мышления.

Сами авторы явно подчёркивают, что настоящим сознанием тут не пахнет (хотя само слово «сознание» - в тех или иных формах - мелькает в статье раз шестьдесят). Но от этого менее завораживающим данное исследование не становится.

Или все эти громкие статьи - лишь часть подготовки к выходу на IPO?))
Anthropic A global workspace in language models Interpretability research on Claude's internal thoughts.
  • ❤ 2
  • 🔥 2
  • 😱 1
Post #90 181
Как и обещал - поподробнее про дистилляцию моделей.

На днях Anthropic (компания, которая выпускает Claude) провела расследование и вскрыла, по их словам, крупнейший в истории ИИ случай промышленного шпионажа. 25 000 поддельных аккаунтов полтора месяца выкачивали ответы их модели - почти 29 000 000 диалогов. Следы ведут к Alibaba (это не только магазин AliExpress, но ещё и один из крупнейших в мире разработчиков языковых моделей - Qwen). К слову, чуть раньше уже была похожая история с китайскими DeepSeek, Moonshot и MiniMax.

Сама по себе дистилляция - это когда большую, умную и дорогую модель (учитель) используют, чтобы обучить модель поменьше и подешевле (ученика). Ученик не знает, как именно работает модель учителя, к самим вычислениям доступа у него нет - он просто раз за разом смотрит, что именно тот отвечает, и учится отвечать в точности так же, перенимая заодно и манеру рассуждать. Идея в целом не новая, её ещё лет десять назад описал Джеффри Хинтон, один из отцов всего этого направления.

Перенимается при этом не всё. Ученик хорошо схватывает манеру учителя и его ответы на привычных задачах, но не саму способность думать. Пока задачи знакомые - держится близко к оригиналу; на чём-то по-настоящему новом начинает сильно плыть, ведь он научился повторять, а не понимать. Поэтому копия здорово притворяется оригиналом ровно до тех пор, пока не требуется шагнуть дальше него.

Именно этим и занимались те 25 000 аккаунтов - генерировали и накапливали ответы Claude, чтобы потом учить на них свою модель.

Получается ли таким путём копия оригинала? Нет, ученик остаётся слабее. У DeepSeek есть честный пример с конкретными цифрами: они официально дистиллировали свою большую модель в несколько маленьких, и на сложных задачах учитель выдавал около 80% верных ответов, а лучший ученик - около 72%. Тоже прилично, но это лишь уменьшенное, приближённое эхо оригинала.

Более дешёвую стоимость моделей от китайских разработчиков обычно объясняют хитрой инженерией: сама модель огромная, но на каждый запрос включается лишь небольшая её часть. Например, у DeepSeek из 600 с лишним миллиардов параметров на один запрос работают лишь несколько десятков - включается только нужный под задачу «кусок» сети (этот приём называют mixture of experts). Оттого и обучение, и ответы выходят заметно дешевле. Это правда, но это лишь полдела. Железо и инженерию они и вправду экономят.

Вот только самое сложное в разработке передовых LLM-моделей вовсе не это. Самое сложное и самое дорогое - это концептуальные части, те идеи, благодаря которым получается заставить модель работать лучше, чем работали её предшественники; на это уходят сотни миллионов и лучшие головы. И вот именно это дистилляция позволяет получить почти даром: выучиться сразу на готовых ответах лидера, минуя всю дорогую разведку. Снять с чужой модели самое ценное.

Отследить подобные действия очень непросто, ещё сложнее их доказать. В целом, такое обычно ловят по поведению: аккаунты шлют запросы синхронно, одинаковыми шаблонами, целенаправленно вытаскивают именно рассуждения - по этому почерку их вычисляют и сшивают в одну группу.

Если очень сильно упрощать, значительная часть китайских моделей - это сворованные американские лидеры рынка. Только сворованы здесь не железо и не код напрямую, а самое дорогое - идеи, логика работы и знания.

Который год в СМИ заявляют, что Китай вот-вот догонит и перегонит США в гонке ИИ, - а он всё так и держится на шаг позади (и, кстати, не только Китай). И это довольно закономерно: если весь твой подход к разработке - это списать, заглянув соседу по парте через плечо, то догнать этого соседа, а тем более обогнать, - задача не из простых.
CNBC Anthropic accuses Alibaba of campaign to 'brazenly' and 'illicitly' extract AI capabilities The letter, which was obtained by CNBC, claims Alibaba carried out "the largest known distillation attack on Anthropic to date."
  • ❤ 3
  • 🤓 1
  • 👨‍💻 1
Post #89 193
Перцептрон архитектора Несколько недель почти ничего не писал в канале. Не потому, что нечего сказать - даже наоборот. Просто всё свободное от работы время уходит на несколько собственных проектов, про них расскажу отдельно чуть позже, когда будет что показать. Но по поводу одной…
Ну что ж… Anthropic все таки получили разрешение от правительства США на предоставление доступа к топовой линейке моделей всем независимо от паспорта и уже вернули пользователям полный доступ.
Fable 5 будет доступна до 7 июля в рамках подписки, а после перейдет в режим доступа по usage credits и через API

Спущу ли я на этих выходных немалую часть своей зарплаты на тесты этой модели на своих текущих проектах на двух x20 подписках? Безусловно!))
Жду ли я когда китайцы дистиллируют эту модель и выпустят более дешевый аналог? А как же!

И кстати, это прекрасный повод наконец подготовить пост о том что же такое дистилляция моделей и почему китайский ИИ на самом деле такой дешевый
  • ✍ 1
  • ❤ 1
  • 😁 1
Post #88 265

This post (sticker, poll or similar) has no web preview. Open in Telegram

  • 🔥 8
  • ⚡ 1
  • ❤ 1
Post #87 188
Chaos (вы их, скорее всего, знаете по V-Ray, хотя занимаются они много чем интересным) на днях выпустили статью с исследованием про ИИ в архитектуре - они поговорили с практиками из разных бюро о том, как нейросети меняют их работу прямо сейчас, и сложили это со своими знаниями и наработками в этой сфере.

Если совсем коротко, для меня основной вывод статьи такой: настоящий генеративный ИИ в архитектуре, заменяющий собой архитектора, в обозримом будущем не наступит.
И дело не в том, что модели сегодня слабые.
Дело в данных, на которых их можно было бы учить: архитектурные проекты почти не покидают стен бюро - чужая интеллектуальная собственность, NDA, приватность заказчика, - а каждый проект слишком завязан на свой контекст, чтобы стать универсальным обучающим примером. Поэтому, вероятно, ИИ еще очень долго так и останется ассистентом внутри привычных инструментов, а не автором.

Из той же причины растёт и побочный эффект. Когда все тянутся к одним и тем же моделям, обученным на одном и том же, проекты понемногу начинают походить друг на друга - там, где у студии был свой почерк, проступает общий, узнаваемо нейросетевой язык (в этом плане возможно стоит обратить свое внимание на опыт тех бюро которые открывают внутри целые отделы занимающиеся ИИ - разрабатывают свои инструменты, обучают собственные модели на своих проектах).

И раз ИИ остаётся ассистентом, всё в итоге упирается не в него, а в того, кто им пользуется.
И это, самое важное, на мой взгляд, в исследовании выделено недостаточно явно: ИИ усиливает сильных и сбивает с толку тех, кто разбирается в вопросе не до конца. Он не выдаёт тебе новую голову и не даёт понимания там, где ты сам не разбираешься - он усилитель навыков и компетенций, и очень хорошо умножает всё, что в него закладывают: и удачное решение, и абсолютную глупость.

Тому, кто понимает, почему одно решение работает, а другое разваливается, едва начнёшь применять его в проекте, ИИ позволяет сделать в разы больше. А тому, у кого нет понимания, что вообще должно получиться, - просто гору убедительных вариантов, которые некому оценить.
А самое неприятное - со стороны одно от другого первое время вовсе не отличить.

И касается это любой сферы. Кто не разбирается в дизайне - наклепает кучу посредственных макетов, кто не умеет писать сценарий - стабильно унылые ролики. Разбираться в нейросетях важно и нужно, но ещё важнее понимать, что ты вообще делаешь и зачем.
Chaos New research: AI in architecture. Trends, hidden risks, and what comes next in 2026 and beyond Based on industry research and expert interviews, this article cuts through the hype to reveal current trends, hidden risks, and what comes next for AI in architecture.
  • ❤ 4
  • 🔥 2
  • ⚡ 1
Post #86 164
Друзья, у меня есть для вас отличная идея, как увлекательно и полезно провести летние выходные)

Ровно через месяц ребята из Ниша устраивают большое офлайн-мероприятие в Нижнем Новгороде, полностью посвящённое ИИ в архитектуре.
Будет супер интересно (просто посмотрите программу)
Так что всем, у кого есть возможность, очень советую не пропустить!

https://t.me/NishA_Ai/854
Telegram ниша | архитекторы и нейросети 🔼 месяц до главного эйай события лета 25 июля в Нижнем Новгороде в Доме Архитектора в рамках ИИ лета пройдет большая встреча, на которую мы вас приглашаем! ✅ два зала, 30 спикеров и ящик черешни Обсудим с Иннополисом, антропологом и sintez.space, как…
  • ❤ 2
  • 🔥 2
  • ⚡ 1
Post #85 199
Не люблю показывать недоделанные проекты, но на последней презентации Apple показал новую функцию iOS - Spatial Reframing. По сути она делает в точности то же что и один из проектов, которым я занимался по выходным в последние месяцы - было бы неправильно не поделиться сейчас)

Идея простая: загружаешь одну фотографию, из неё строится объёмное Gaussian Splat пространство, по которому можно подвигаться и сменить ракурс.
А дальше одной кнопкой, через Nano Banana, рендерится новый вид - уже с новой точки.
Результат пока сырой, но тут уже вопрос настройки инструмента, доработки, промптов и постобработки.
Записал короткое видео для наглядности.

С одной стороны, можно и расстроиться: над чем бы ты ни работал, технологические гиганты всё равно тебя обгонят. С другой - в этом, кажется, и есть весь кайф того, что сейчас происходит с ИИ. Технологии меняются так быстро, что каждые полгода все снова оказываются примерно в равных стартовых позициях. И вопрос не всегда в бюджетах или в размере команды, а скорее в том, сколько у тебя времени и желания лезть во что-то новое и непонятное.

Даже гиганты со всеми их ресурсами всё интересное охватить не могут, да и не часто пытаются. А значит, место делать что то новое где-то всегда остаётся свободным - особенно если ты пытаешься делать не универсальный продукт для всех, а инструмент для самого себя, для своей проффессии
  • 🔥 5
  • ⚡ 3
  • 🏆 1
Post #84 151
Надо бы разбавить свои предыдущие длинные посты простым кейсом из практики)

Несколько недель назад вышли официальные MCP-коннекторы от Anthropic, через которые Claude работает напрямую в творческом софте - Adobe, Blender, SketchUp. Давно думал про них написать, но, если честно, так и не придумал о чём.
По ощущениям всё это оказалось куда менее интересным, чем на тот момент в основном говорили. И уж точно не из разряда «теперь это убьёт профессию дизайнера, архитектора, да кого угодно». В отличие от недавнего MCP в Unreal Engine, который разработчик встроил прямо в ядро движка, здесь это по-прежнему обычный сторонний плагин с очень ограниченной функциональностью.
Даже мой собственный коннектор для SketchUp, который я навайбкодил за пару вечеров, для моих задач делает намного больше, чем официальный (который, к слову, и не работает напрямую, а генерирует модель через облачную версию). По Blender, судя по видеообзорам и статьям, примерно та же картина. Любопытно потыкать, но в реальную работу это всё не применить.

А вот одну вещь я использую практически на регулярной основе - официальное расширение Claude внутри пакета Microsoft Office. Да, там уже есть встроенный Copilot, есть отдельные плагины Gemini и OpenAI. Но для меня Claude выглядит и поудобнее, и поумнее, и с большинством задач справляется откровенно лучше (может быть, мои задачи такие специфичные, а может, у них просто лучше получилось это реализовать)

Записал небольшое видео на примере того же PowerPoint. Взял из другой презентации слайд-образец со сравнением вариантов генплана и попросил Claude пройтись по всей презентации, найти для каждого варианта посадки генплан и ТЭП и собрать точно такой же слайд сравнения: подписать ТЭПы, плюсы и минусы вариантов.

Да, на видео это всё происходит за 30 секунд - по факту Opus думал несколько минут
Но на то подобные инструменты и нужны. Не делать работу вместо тебя, а выполнять рутинные задачи параллельно с тем, как ты занимаешься чем-то более сложным и интересным
  • ❤ 6
  • ⚡ 1
  • 🔥 1
  • 🤝 1
Post #83 107

Forwarded from Алина Черейская про архитектуру как стартап

Пару дней назад досмотрела интервью с Андреем Карпаты про искусственный интеллект, в котором он говорит буквально следующее:
“You can outsource your thinking, but you can’t outsource your understanding.”

«Можно делегировать мышление, но нельзя делегировать понимание.»

До этого момента я формулировала это так:
«AI, не подумай за меня, а помоги мне найти ответ».

Хожу и размышляю, решила оставить здесь.

*ссылка на интервью
  • ❤ 1
Post #82 116
Хорошая формулировка того же тезиса, которого я стараюсь придерживаться в любом обсуждении вопросов применения ИИ в работе: нейросети могут снять огромное количество технических вопросов, но без проработанной идеи и понимания принципов того, как все это должно работать, никакая нейросеть не поможет добиться качественного результата

PS очень рекомендую посмотреть полностью само интервью!
https://www.youtube.com/watch?v=96jN2OCOfLs
  • 💯 3
Post #81 148
Вышел Unreal Engine 5.8
На первый взгляд вроде бы обычное регулярное обновление...

Epic годами шли к развитию продукта через процедурные генерации, оптимизацию, сторонние модули - и вот теперь к этому добавился нативно встроенный MCP.
Да, и раньше его можно было прицепить сторонними плагинами с GitHub, но теперь он встроен в сам движок, прямо из коробки, с прямым доступом к ядру программы.

Claude Code, Codex, Cursor, любой клиент с MCP получает прямой доступ к редактору и теперь благодаря ИИ-дружелюбной архитектуре может выполнять максимально полный пайплайн: расставлять объекты, настраивать свет, собирать материалы, уровни, файнтюнить сцену на любом этапе. В демонстрации, которую показали Epic, он обставляет комнату мебелью, а потом и вовсе растягивает сцену до целого квартала. Пока это ещё демо, не полнофункциональный инструмент, с большим количеством ограничений и условностей, но начало очень интересное.

Мне Unreal давно был очень интересен, не в последнюю очередь за счёт реалтайма. Сразу видишь любую тяжёлую сцену вместо статичной картинки, пространство, по которому можно пройти, проехать на машине, посмотреть с точки зрения пешехода через VR-шлем.
Но всегда останавливал порог входа. То, что одновременно является огромным плюсом в части невероятно широкого функционала и профессиональных возможностей, в то же время выступает и стеной для новичков. Я дважды подступался и дважды бросал. Слишком много сил нужно прикладывать, и пока не до конца понятно, где это прямо сейчас можно применить в работе.

Сам Unreal за счёт MCP проще в освоении особо не становится, но в этот раз причин сесть и в итоге разобраться, похоже, всё-таки наконец набралось.
Так что выходные, кажется, уже распланированы.
Попытка номер три)
  • 🔥 5
  • ⚡ 1
  • 🤓 1
Post #80 113
В продолжение предыдущего поста, где всё, по сути, свелось к мысли, что завязывать работу на одну модель очень рискованно: сегодня она есть, завтра могут отнять. Немного другой взгляд со стороны на ту же проблему.

Есть такой сервис OpenRouter - фактически одна точка доступа сразу ко всем основным моделям, чтобы не заводить аккаунт у каждого AI-сервиса. И вот они недавно запустили функцию Fusion. В отличие от стандартного принципа - спрашиваешь одну модель, получаешь от неё ответ - Fusion шлёт твой вопрос сразу нескольким. А потом отдельная модель-судья читает все ответы и сводит в один: где сошлись - это базовая опора, где спорят - осторожное упоминание, а что выдала только одна - просто на заметку. Грубо говоря, спрашиваем не одного эксперта, а четырёх, и просим пятого свести их ответы в одно заключение.

И вот что у них вышло. Связка из трёх дешёвых моделей на сотне сложных исследовательских задач обошла поодиночке GPT-5.5 и Claude Opus, а Fable 5, ещё недавно флагман, почти догнала - в пределах процента. И при этом вдвое дешевле (замер, правда, на внутренних метриках и только на узком спектре задач - так что цифры нужно читать осторожно)
Ещё интересно что если прогнать через ту же схему одну модель против себя самой, даже без разнообразия других моделей, результат всё равно заметно растёт.

Забавно, что с тех пор как в Claude Code появился мультиагентный режим, я фактически так и веду любую сложную работу: на каждый мелкий, атомарный шаг запускаю не одного агента, а сразу нескольких - на одной модели, с одной задачей, - а отдельный агент-судья выбирает из результатов лучший. У меня под это даже собран свой скилл. Так что видеть ровно эту идею в крупном публичном сервисе приятно - подтверждает правильность такого решения, несмотря на заметно больший расход токенов.

Да, у этого способа есть цена: он медленнее и значительно дороже, и на простом вопросе вряд ли нужен. Но собрать агентную команду из нескольких доступных моделей - вместо погони за единственным дорогим флагманом - тем и хорошо, что если одна модель выпала, это не страшно: её можно заменить, и схема продолжает жить как раньше.

Похоже, на сегодня это действительно интересная (и возможно единственная рабочая) альтернатива локальным open-source моделям.
  • 🔥 2
  • ⚡ 1
Post #79 118
Несколько недель почти ничего не писал в канале.
Не потому, что нечего сказать - даже наоборот.
Просто всё свободное от работы время уходит на несколько собственных проектов, про них расскажу отдельно чуть позже, когда будет что показать.
Но по поводу одной из тем молчать не получается. На этой неделе в мире ИИ происходило то, что стоит разобрать.

Anthropic - компания, которая делает семейство нейросетей Claude (последние месяцы - основной ИИ инструмент в моей работе), - выпустила новую модель под названием Fable 5.
Для тех, кто не следит за этой сферой: нет, это не очередное плановое обновление раз в пару месяцев, а значительный шаг вперед

У Anthropic есть внутренняя линейка моделей под названием Mythos. Слишком мощные, чтобы выпускать без присмотра, - их давали только узкому кругу проверенных партнёров, вроде специалистов по кибербезопасности.
Fable 5 - первая из них, которую опубликовали в открытый доступ. По сути та же модель из закрытой линейки, только сильно урезанная в плане безопасности - иногда до смешного: отказывалась отвечать даже на достаточно безобидные вопросы.

Впечатлило людей не то, что она стала «умнее» в смысле лучших ответов на вопросы. А то, что ей можно отдать большую, плохо сформулированную задачу - и она доведёт её сама, не теряя нить. Раньше модель приходилось вести по шагам, иначе она уходила куда-то не туда и возвращалась с уверенным, но неправильным ответом.

Андрей Карпаты - один из самых известных людей в области AI, как раз недавно перешедший на работу в Anthropic, - написал, что впервые так и тянет вообще не смотреть в код, настолько ей можно доверить вести работу.
Программист Саймон Уиллисон назвал её «зверем» и сказал, что теперь сложно найти задачу, которую она не может.

За несколько дней после релиза случилось разное. Stripe - крупный платёжный сервис - переписал с её помощью свою кодовую базу на пятьдесят миллионов строк за один день; сами рассчитывали, что на это уйдёт около двух месяцев работы целой командой. Один разработчик дал ей покопаться в своём проекте - она написала тест, нашла настоящие баги, которые он сам пропустил, и заодно починила пару старых проблем, о которых её не просили. А ещё люди по одному текстовому описанию собирали в браузере рабочий клон Minecraft - минут за двадцать.

Открыли доступ в рамках платных тарифов - формально бесплатно, если подписка уже есть. Но модель жгла токены так быстро, что даже на максимальном тарифе за 200 долларов в месяц, недельный лимит выгорал за несколько часов. Люди докупали по второй и третьей подписке, лишь бы успеть побольше, пока дают.

Через три дня после релиза во всё вмешалось правительство США.
Министр торговли направил директиву главе компании: закрыть доступ для всех иностранцев, включая собственных сотрудников Anthropic без американского гражданства. Отделить иностранца от американца в общем потоке в реальном времени для Anthropic было просто невозможно - поэтому пришлось вырубить Fable 5 для всех пользователей во всём мире.
Официальная причина - риски безопасности, якобы модель можно уговорить искать уязвимости в чужом коде.
Anthropic с этим не согласна и обещает доступ вернуть, но когда - неизвестно, да и не факт, что у них это получится.

Сказать, что это было совсем неожиданно, сложно: уже несколько лет специалисты обсуждают, что рано или поздно сильные модели придут к подобным ограничениям - по сути, к доступу по паспорту (ну ничего, посмотрим ещё, как американцы будут смеяться, когда им в ответ отключат Алису)
Но прецедент всё равно серьёзный: чтобы готовую публичную модель вот так разом выключили по государственной директиве - такого ещё не было.

Есть тут и более простая мысль. К хорошей модели быстро привыкаешь - и возвращаться потом на что-то медленнее и глупее уже тяжело. Открытые модели пока заметно слабее топовых закрытых, зато ту, что один раз скачал к себе, уже не отнимут одной кнопкой - ни по чьему требованию. А тут что дали, то и забрали. И если модель живёт не у тебя, а на чужих серверах, однажды она может стать недоступной совсем.
А раз доступ к ключевой модели можно выключить одним внешним решением, зависимость от чужого провайдера - это уже не удобство, а уязвимость. Причём не теоретическая, а сегодня уже вполне практическая. Так что держать модель локально - это давно не про «сэкономить» и не про игру в технологический суверенитет, а способ не оказаться в ситуации, когда твой рабочий контур выключают чужим решением.

Ну и напоследок - забавная мысль крутится у меня сегодня в голове. Карпаты, один из важнейших людей ИИ индустрии, только в мае перешёл работать в Anthropic и всё это время громко расхваливал новое семейство моделей. Американского паспорта у него, насколько я понимаю, нет.
Интересно, его самого от работы над топовой линейкой моделей тоже отстранят?
Anthropic Claude Fable 5 and Claude Mythos 5 Today we’re launching Claude Fable 5: a Mythos-class model that we’ve made safe for general use.
  • 🤯 7
  • 🔥 2
  • ⚡ 1
  • ❤ 1
Post #78 169
Очередной забавный случай в Твиттере - несколько дней назад один из пользователей выложил изображение и подписал, что сгенерировал его нейросетью в стиле Моне (даже поставил тег Made with AI) и спросил у подписчиков, чем же это хуже, чем настоящий Моне.

В тред набежали сотни ценителей: картину назвали бессвязной кашей, отражения - шумом, написали, что это всё эмоционально пусто, и в целом видна бездушная AI-подделка.

Но, разумеется, это был настоящий Моне. Холст 1915 года из цикла «Кувшинки», висящий в Neue Pinakothek в Мюнхене.

Когда это всё выяснилось, комментаторы, конечно, поутихли. Но я хотел отметить, что несколько специалистов с первых же часов писали, что это, вероятно, оригинал. И даже объяснили почему - по характеру мазка, по тому, как написана вода, и так далее.
Специалист и обычный человек смотрят на одно и то же всегда под разными углами.

И тут в голову приходит другая аналогия: с появлением Midjourney интернет довольно быстро наводнили миллионы сгенерированных изображений архитектуры - до такой степени, что регулярно можно услышать тезис, что профессия архитектора скоро будет заменена ИИ. Но опытный архитектор, в отличие от случайного зрителя, сразу видит, есть ли за картинкой настоящая работа - концепция, обоснованные решения, внимание к контексту. Или это просто красивая картинка ради картинки.

А обычный человек, который в конечном итоге и является основным потребителем самой архитектуры, эту разницу просто не считывает. Для него месяцы бессонных ночей с глубокой проработкой концепции и сгенерированная за минуту картинка в Midjourney, по сути, скорее всего одно и то же.

Хотел бы я закончить пост умным тезисом со своим мнением на этот счёт, но честно - ответа на то, как это воспринимать и что с этим делать, у меня пока нет...
  • 👍 4
  • 💯 4
  • 😁 2
  • ❤ 1
  • 🔥 1
  • 💔 1
Post #68 179
Перцептрон архитектора Выступил сегодня вечером спикером на очень интересном онлайн-мероприятии, посвящённом ИИ. Рассказал на примере небольшого разработанного мной плагина для Adobe Photoshop о том, почему, на мой взгляд, разработкой узкоспециализированных инструментов для архитекторов…
Кстати, для вчерашней презентации большую часть слайдов я сгенерировал в GPT-Image 2.
Вчера не успел поразвлекаться с различным оформлением, да и не очень хотелось переводить внимание с предмета обсуждения на дизайн презентации. Но уже после вдоволь поигрался - и еще раз отметил для себя, насколько хорошо работает эта модель в подобных задачах.

Конечно же, качественный результат получается не в каждую генерацию, больше половины вариантов отсеиваются, но это всё равно очень здорово. Приложил для примера один и тот же слайд в десяти разных стилистических вариациях

Главное, чего сейчас не хватает - консистентности между генерациями по референсу. Чтобы на серии слайдов держался не только единый образ, но и сквозной дизайн, единые шрифты и цвета. Пока модель умеет делать это недостаточно хорошо (но с такими темпами, думаю, осталось ждать не так долго)

P.S. Ну и по этим генерациям видно что ошибки в тексте все еще нужно отсматривать)
  • 🔥 5
  • ❤ 3
  • 🤯 3
  • 💅 2
Older posts →
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →