AB Notes / AI × 1C × [ ... ]

Офигеть, теперь даже игровой ПК может запускать передовые модели с интерактивной скоростью, используя официальные веса без экстремального квантования.

Исследователи из UC Berkeley, MIT и UT Austin открыли исходный код FreeToken — системы, специально созданной для запуска сверхбольших MoE-моделей на обычных компьютерах.

В статье они показывают очень впечатляющие результаты:

Qwen3.6 35B → ноутбук с RTX 4060 8 ГБ → 39 токенов/с

DeepSeek-V4-Flash 284B → RTX 5090 → 22–25 токенов/с

GLM-5.2 753B → RTX PRO 6000 → 15 токенов/с

По сравнению с Ollama скорость генерации выше в 3–4 раза, а обработка входного контекста — в 6–30 раз быстрее.

То есть игровой ноутбук всего с 8 ГБ видеопамяти уже может запускать модель на 35 млрд параметров почти на 40 токенах в секунду.

И это даже быстрее медианной скорости генерации Codex в 33 токена/с, которую авторы приводят в статье.

Главная идея FreeToken в том, чтобы заставить GPU, CPU, оперативную память и PCIe работать вместе.

Поскольку MoE-модели для каждого токена активируют только небольшую часть экспертов, нет необходимости постоянно держать сотни миллиардов параметров в видеопамяти.

FreeToken сам решает, какие части модели оставить в VRAM, какие временно переносить из оперативной памяти на GPU, а какие вообще считать на CPU.

На этапе обработки входного контекста система заранее загружает экспертов следующего слоя. Во время генерации она динамически распределяет вычисления в зависимости от текущей скорости CPU, GPU и PCIe.

Есть даже отдельный Agent State Cache.

Когда агент вызывает инструменты, меняет контекст или продолжает старую задачу, FreeToken может пропускать большую часть повторной обработки контекста.

FreeToken поставляется с полноценным графическим интерфейсом.

Не нужно конвертировать модели в GGUF или собирать проект из исходного кода.

Также в FreeToken Desktop уже встроены агентные обвязки - выбираете модель, выбираете приложение и запускаете.

https://arxiv.org/abs/2608.16157

🚀 1C: Platform Tools 0.8.0 + md-sparrow 0.5.0

Релиз про метаданные: то, что раньше правили в XML руками, теперь правится в интерфейсе, а в git уходит точечный diff — меняются только затронутые строки, форматирование и порядок остального файла остаются как были.

Формы. Управляемая форма открывается на просмотр так, как её показывает конфигуратор: элементы с синонимами, группы, кнопки. Свойства выделенного элемента правятся в палитре, в файл уходит только изменённый узел.

Палитра свойств. Отдельная панель, содержимое зависит от того, что выделено: объект метаданных, реквизит, табличная часть, команда, форма, свойства конфигурации или расширения, внешний отчёт и обработка. Правки копятся и уходят одним нажатием.

Панель свойств объекта. Теперь правит объекты всех поддержанных видов, вкладки повторяют конфигуратор. Форматы выгрузки 2.10–2.21: свойство, которого в конкретной версии нет, панель не покажет и не запишет, а варианты выпадающих списков спрашивает у самого формата.

Дерево. Ctrl+Alt+T показывает в дереве объект, которому принадлежит открытый файл — от любого файла выгрузки, включая модули и содержимое форм. Дерево помнит, что было раскрыто. Заимствованные объекты расширений помечены значком на пиктограмме.

Профиль запуска. Строка подключения выбирается из списка информационных баз 1С — того же, что показывает платформа при запуске. Вписать руками по-прежнему можно.

Автоматизация. Типовые цепочки шагов появились готовыми шаблонами. В отчёте видно, из-за чего упал шаг, а о завершении долгой команды приходит сигнал.

📦 Расширение: Marketplace (https://marketplace.visualstudio.com/items?itemName=yellow-hammer.1c-platform-tools) · Open VSX (https://open-vsx.org/extension/yellow-hammer/1c-platform-tools)
📦 md-sparrow: релиз (https://github.com/yellow-hammer/md-sparrow/releases/tag/v0.5.0)

На волне хайпа по солам и фэйблам немного забыли про китайцев

Сам я редко пользуюсь китайцами (только в hermes личном), но слежу за ними даже больше чем за проприетарными моделями. На случай если кто-то дернет рубильник (с той или этой стороны границы). Да и успешный релиз китайца всегда хорошо для конкуренция и баланса цен на все модели.

В этом месяце должен выйти Deepseek V4 без приставки preview.

Но видимо самый главный релиз - это Kimi K3, который должен выйти уже на днях.

Слухи (многим блогерам уже раскатали превью доступ): существенный скачок относительно 2.6, размер больше 1T, лучше opus 4.8, фронт рисует лучше fable (верим)

Посмотрим, Kimi 2.6 мне не очень понравился.

P.S. Стильный тизер Kimi K3 от вендора. Прямо про релиз там не говорится, но количество троек в видео как бы намекает.

Новый DeepSWE бенч - один из немногих бенчей, с чьим рейтингом моделей я в целом солидарен. https://deepswe.datacurve.ai/

Кроме рейтинга deepseek v4, там есть вопросы к бенчу https://github.com/datacurve-ai/deep-swe/issues/21

Но применительно к 1с конечно на первых местах будут модели антропиков

Несколько мыслей по DeepSeek v4:

Я в отпуске, полноценно потестить не могу, но по тем тестам что я провел и почитав аналогичные мнения - в кодинге и в агентных кейсах DeepSeek уступает и Kimi 2.6, и GLM 5.1.

Но текущие войны бенчмарков это все-таки больше хайп, т.к. все равно не сейчас, так через полгода-год китайцы будут уровня opus 4.7-gpt 5.4, что уже вполне приемлемо для большинства задач.

Куда важнее вопросы  фундаментальной архитектуры,  и вот здесь киты как раз "впереди планеты всей" и являются ориентиром для других китайских лаб. Ведь не будь DeepSeek v3, то мы не увидели бы и Kimi, и Glm (по-крайней мере в их текущем виде)

И тут 2 важных момента: переезд на чипы Huawei (=снижение дефицита компьюта и роста цен), а также новая архитектура сжатия KV-Cache в 10 раз. То есть грубо при том же размере RAM можно вместить 10 пользователей вместо одного.

И нет сомнения, что на этой архитектуре мы в недалеком будущем получим еще более крутые открытые модели, которые конечно будут лучше текущего DeepSeek. То есть в краткосрочной перспективе v4 выглядит не так впечатляюще как хотелось бы, но фундаментальный вклад для всех, и в том числе для нас - обычных консьюмеров - гораздо важнее, тк это как минимум удешевит компьют, а то в последнее время видим обратную тенденцию.

DeepSeek кстати уже анонсирует значительное снижения стоимости API во втором полугодии, после запуска новых нод на Хуавеях.

Доступна в web: https://chat.deepseek.com/

Бегло проверил на знания 1с: хуже, чем kimi 2.6 и glm 5.1

Например вот такие перлы выдает:

МенеджерВТ.Таблицы.ВТ_Продажи.Индексы.Добавить("Контрагент");

DeepSeek v4🔥

Бенчмарки, карточка модели: https://huggingface.co/deepseek-ai/DeepSeek-V4-Pro#deepseek-v4-pro-max-vs-frontier-models

По бенчам SOTA среди открытых моделей, чуть хуже чем Opus-4.6, GPT-5.4

API:

https://api-docs.deepseek.com/quick_start/pricing

Контекст: 1 млн

V4-Flash: in $0.14 / cache hit $0.028 / out $0.28

V4-Pro: in $1.74 / cache hit $0.145 / out $3.48

Как оплачивать chatgpt, claude из РФ?

Я решил собрать в одном месте популярные способы оплаты ai сервисов из РФ.

Уточню, что это не реклама и я не получаю ни рубля с упоминания этих сервисов. Все эти сервисы могут обмануть, так что покупайте на свой страх и риск.

Какие способы вообще существуют?

1. Купить уже оплаченный аккаунт

Как это работает?

Продавец оплачивает аккаунт со своей карты и перепродает на площадках. Какие есть минусы?
Сервис (chatgpt/claude) может увидеть, что пачки аккаунтов оплачиваются с одной карты (такого продавца) и может забанить такие аккаунты из-за нарушения terms of use. Я точно знаю, что такие аккаунты Claude банятся, поэтому не рекомендую их покупать.

Площадки для продажи подобных аккаунтов:
Funpay
Playerok
Platiru
GGSel
smartaipack

У Chatgpt есть business ($25) и plus ($20) аккаунты.
У business аккаунтов сейчас есть возможность зарегистрировать акк с бесплатным промо периодом на первый месяц. Для этого необходима иностранная карта и рандомный адрес вашего бизнеса.

На таких площадках можно так же встретить chatgpt аккаунты, которые продаются очень дешево - 100-500р.
Как такое возможно? У Chatgpt есть региональные промо акции, когда дается 1 месяц бесплатного использования. Продавцы находят такие способы и потом перепродают аккаунты.
Эти аккаунты могут баниться, но пока что есть возможность покупать новые акки.

2. Gifts

У Claude есть возможность приобрести gift подписку и подарить другу. Как итог - находятся люди, которые скупают такие гифты и потом перепродают. Тут тоже стоит упомянуть, что Claude может забанить такой аккаунт, так что будьте осторожны

3. Приобрести банковскую карту и оплачивать самостоятельно

Тут есть два вида карт: виртуальные от классических банков и виртуальные одноразовые

1) Карты от классических банков
Как это обычно работает?
Вы оплачиваете услугу, отправляете пакет документов, спустя несколько дней получаете доступ к личному кабинету в одном из банков стран СНГ и инструкции по пополнению.
Тут стоимость разная, обычно от 10к до 30к руб и выше. У некоторых банков может быть комиссия за оплату и пополнение.

2) Карты виртуальные

Оплачиваете карту и пользуетесь. Тут везде есть комиссия за пополнение/оплату/выпуск карт

Список таких сервисов с картами:
Chocopay
Wanttopay
Usa virtual cards
Exnode
Cardkazz
Bybit
5kartru

Ещё раз повторю, что все эти сервисы стоит использовать на свой страх и риск. Всегда есть возможность получить забаненный аккаунт, а в некоторых случаях и заблокированный банковский счёт. Не все виртуальные карты подходят для оплаты за chatgpt/claude.

Я сам давно пользуюсь картой одного из сервисов из списка выше и оплачиваю через нее все зарубежные покупки.

Расскажите в комментах, чем пользуетесь вы?

Лайк, репост,
✔️ Тимур Хахалев про AI Coding, подписывайтесь!

Появилась, судя по описанию релиза https://t.me/VanessaAutomation/150

Несколько месяцев назад делал агента-ассистента по Vanessa Automation.

Выкладываю документацию, которую собрал и структурировал для него - может кому пригодится как база знаний для своего агента.

Что внутри архива:

MainHelp - пользовательская справка VA (версия 1.2.041.1). 16 глав, 166 markdown-файлов.

steps-lib - библиотека всех 1116 шагов VA, index → detailed index → steps.json
Шаги по-моему брал из репо ванессы 1.2.042

examples - 417 готовых .feature файлов:
- https://github.com/IRPTeam/IRP — 320+ тестов
- ERP - feature-файл для типовой ERP
- УХ 3.2 - 96 тестов для "Управление Холдингом"

Размер архива обусловлен 900+ скриншотами в документации ванессы.
P.S. Если нарушил чьи права - напишите в личку.

Просто лучшая новость для экосистемы ИИ в 1С

Сейчас ИИ при разработке на 1С как слепой котенок: разработать может, а проверить что сделал - нет.
Петля обратной связи не закрывается, агент не может работать автономно, эффективность относительно популярных языков и фреймворков низкая. И решение этой фундаментальной проблемы в анонсе от Алексея Корякина.

Бусти Алексея: https://boosty.to/alkoleft

С октября пилотируем инструмент, похожий на клешню, но специализированный под 1С, а именно под конкретное отраслевое решение.

Черновую версию я накидал за выходные на FastApi и React + еще столько же на гайдлайны и документацию. Плюс с октября прикрутили еще ряд доп инструментов. (скиллы + скрипты, раги (по документации, не по коду), mcp).

Техническими деталями и методологией пока не делимся.

Некоторые результаты:
- По многим вопросам, включая саму разработку по ряду задач, аналитики справляются в одно лицо без разработчика.
- Младшие разработчики закрывают ряд сеньорских задач.
- Ввиду отраслевой специфики наши методологи на коробочных решениях много работают с метод. кейсами в экселях - так вот по отзывам методологов они получили ускорение вплоть до x10 при работе с экселем (сверка, нормализация, создание новых книг и тд )
- Планировали взять аналитика-эксперта по домену финансовой отчетности, но комбайн из специализированного субагента + RAG по документации + еще пару mcp его полностью заменил

Причем от некоторых решений младших разрабов и аналитиков "я охерел просто" - насколько круто и элегантно это было сделано - например, динамическая замена типа ячейки в таб доке для различения пустой и незаполненной даты. Доходило до того, что я лез в историю их чатов, смотрел, как именно они к этому пришли, и сам на этом учился. (Вова, Женя, привет)

Но не должно сложиться впечатления, что это такая вундервафля, которая ускорит любого программиста и аналитика - не слушайте цыган, которые заявляют что любой фаундер/домохозяйка себе saas навайбкодит. У нас сильные аналитики (не "передасты"), а все младшие программисты уже со спецами по платформе, и вот именно такая синергия и дает буст от ИИ. Т.е. например, у аналитиков должна быть база по разработке на платформе и хорошее критическое мышление, чтобы не каждое предложение от ИИ тащить в задачу.

С точки зрения безопасности:
- все крутится на отдельных виртуалках,
- базы 1С используем только тестовые
- в метод. кейсах также нет перс. информации.
- ручное ревью сложных задач, когда код пишет аналитик/младший разработчик

В эти выходные пройдет партнерская конференция 1С. Будут доклады про инструменты и агентский режим 1С:Напарника.

Сам Напарник меня сейчас мало интересует, а вот про инструментарий любопытно послушать.

Может подвезут MCP для форм и метаданных? Насколько я знаю, планы на такой инструмент у 1С были.

Gpt? Opus? Напарник?

Пфф

Соратник

DeepSeek v4

Слухи: релиз на следующей неделе, возможно уже завтра. Вероятно ренейминг в DeepSeek Model1.

По вбросам - первая открытая модель, которая составит реальную конкуренцию (а где-то и превзойдет) проприетарные топы от google, anthropic и openai.
Контекстное окно - 1 млн токенов, сильный упор на кодинг.
Насколько все это правда - узнаем совсем скоро

Kimi K2.5 Thinking

Видимо, новый фронтир среди открытых моделей для кодинга в 1С.
По не-1сным отзывам и некоторым бенчам она обходит GLM5. Лично погонял в чате instant-версию: знания по 1С у нее ощущаются более полными и глубокими, чем у GLM. Но надо тестить.

Китайский Seedance 2.0
Впечатляет