Друзья, добрый день.
Решил поделится новостями.
Во-первых, хочу поблагодарить всех, кто голосовал за доклады на Infostart Tech Event!
Практически все, кого я написал в прошлый раз, прошли, но я говорил, что знаю тех, кто подаст заявку во второй тур.
Поэтому я прошу проголосовать вас еще и за второй тур. Это важно, именно от вас зависит программа мероприятия!
Кого поддержу я во втором туре:
Мастер Данила Воякин
1. «Объект не найден:1С:Элемент::Заявки::Доклад.Reference»
2. Сделка с JS-дьяволом или что вы теряете, не используя КонтейнерHtml
Не очень известный блогер у микрофона. Дмитрий Котов:
Хакатон. Битва вайбкодеров: кто приручит конфигурацию
Мой земляк Александр Криулин:
Как мы живем с базой в 110 Тб
Мой земляк и автор Накидки накидал интересный доклад. Никита Жеребцов:
Конфигурация как YAML: редактирование метаданных ИИ-агентом
Человек-гора, диктатор… Но это не про него, конечно. Валерий Бобров:
Агент не учится сам: как мы управляем skills на примере агента для расчета зарплаты
Совершенно не пьющий Роман Данилов:
Чтобы обойтись без разработчика, мне нужен разработчик
И да, кстати, в группе Ивента объявлен флешмоб. Есть возможность выиграть билеты на Ивент
Задание простое:
Сгенерируйте аватарку и примерьте образ героя своего мира: стать эльфом, магом или путешественником Светлого мира A&PM, либо инквизитором, алхимиком или охотником Темного мира TECH. А можно придумать собственного персонажа.
Генерируем, ставим себе аватарку и выкладываем в группу с тегом: #ВыбираюTECH или #ВыбираюAPM
П.С. Люблю генерации 😉
Во-вторых. В пятницу 14.08 впервые имел опыт в виде приглашенного спикера на внутренний час развития в одну Екатеринбургскую компанию.
Выступил с темой «Порядок в данных и в головах. Как LLM Wiki меняет проекты»
П.С. Доклад готовил за 5 ночей и выступал без прогона, о чем предупредил. По-моему, прошло неплохо, и судя по количеству вопросов тема была интересна.
В-третьих. Я наблюдал просто метеоритный дождь из обновленных больших моделей на прошлой неделе. А также выходили локальные модели для генерации музыки, видео и прочего контента.
Ну и конечно вышел Qwen 3.8 27B. Чего таить, я его конечно уже развернул.
Делюсь командами:
./llama-server -m E:\models\qwen\3_8\Qwen3.8-27B-Q4_K_M.gguf --mmproj E:\models\qwen\3_8\mmproj-F16.gguf -ngl 999 --host 0.0.0.0 --port 8085 -c 200000 -np 1 -ctk q8_0 -ctv q8_0 -fa on -b 2048 -ub 512 --jinja --cache-reuse 256 --spec-type draft-mtp --spec-draft-n-max 2 --spec-draft-p-min 0.0 --reasoning-budget 2048 --chat-template-kwargs '{\"reasoning_effort\":\"medium\"}'Эта команда дает на двух 5060 ti результат 39 токенов в секунду и кушает 29-30 Гб VRAM
Можно чуть ухудшить ответы, но чтобы кушало на 3 Гб VRAM меньше:
./llama-server -m E:\models\qwen\3_8\Qwen3.8-27B-Q4_K_M.gguf --mmproj E:\models\qwen\3_8\mmproj-F16.gguf -ngl 999 --host 0.0.0.0 --port 8085 -c 200000 -np 1 -ctk q4_0 -ctv q4_0 -fa on -b 2048 -ub 512 --jinja --cache-reuse 256 --spec-type draft-mtp --spec-draft-n-max 2 --spec-draft-p-min 0.0 --reasoning-budget 2048 --chat-template-kwargs '{\"reasoning_effort\":\"medium\"}'П.С. Сейчас пробую с его помощью доделать проект GoAl, если все будет нормально, то скоро расскажу, что это такое. Ну и думаю попробовать скидать пару сайтов, посмотрим.
В-четвертых. Как вы помните, я полторы недели назад писал статью по всем за и против по локальным и облачным моделям.
И пришла мне мысль о том, что нужна отдельная библиотека по этому делу.
Сейчас до конца продумываю идею и думаю заставлю Qwen поработать.
В-пятых. Прочитал забавную новость. В Китае открыли ИИ-бары с бесплатными токенами для генерации кода.
Новый формат заведений - AGI Bar
Первый такой бар появился в пекинском районе Чжунгуаньцунь — одном из главных технологических центров Китая. В заведении установлены локальные рабочие станции на базе Nvidia DGX, где запущена китайская open-source модель DeepSeek V4 Flash.
На этом пока все. Всем хорошей недели!