Nek.12 | AI, SWE, Tech [RU]

https://youtu.be/32zpk7tqs0M

Запись доклада уже доступна на ютубе!

Напомню, что я сравнил Kent и Codex по куче параметров на одной и той же задаче в Респавне, моем KMP-приложении, а также рассказываю про проблемные зоны в сфере, почему агенты не слушаются инструкций, как работает внимание у моделей, как делать хорошие агентные графы на примере.

Доброе утро, сегодня вечером ожидается релиз GPT-6-Sol, GPT-6-Luna, а также сопровождающий их сброс лимитов.

Господа, в твиттерах шумит новая модель для принятия решений названная Jev, запустившаяся на днях.

Jev похожа на языковые модели - она принимает на вход текст, но не генерирует текст в ответ.
Вместо этого она создана для того чтобы на основании входящих данных принять любые заданные пользователем решения.

Например классификация:

• Этот коммент на ревью в скоупе задачи? а) да, б) нет
• Это сообщение содержит важные инструкции, или не привносит полезной информации? да/нет.

Как вы можете понять, в Кенте есть десятки зон применения для этого:

• классификация комментов на ревью,
• готова ли фича к проду
• правильные ли советы супервайзера
• нарушил ли агент правило X
• что сохранить при компакте
• ноды принятия решений на воркфлоу
• авто-аппрув рискованных операций агентом
• получение доступа агентом
• уменьшение бесполезных вопросов
• выполнена ли задача на /goal.

Но Jev стоит бросовых, но денег, и требует настройки по API. Что делаем?

Новости: ZCode выгружает все ваши репозитории и всю историю гита в зашифрованном виде на свои сервера используя Aliyun OSS, аналог S3 от Alibaba, и про это ничего не сказано в политике приватности. Это делается втихаря и содержимое шифруется, так что вы не можете получить к нему доступ, а отключить это невозможно.

Та же самая история была с Grok, который выгружал всю вашу кодовую базу "для автокомплита", за что Илон Маск "строго наругал и потребовал удалить" сотрудников компании.

https://blog.ferstar.org/en/posts/zcode-silent-workspace-snapshot-upload/

Рад вам сообщить что 21-го я буду выступать с докладом на Podlodka Android Crew! Конференция в этом году ориентирована на AI+Android.

Я буду рассказывать что такое агентные графы, зачем они нужны, почему модели не слушаются инструкций, покажу мой граф для андроид-разработки в Кенте.

Специально для этого доклада я сделал сравнение одной и той же реальной задачи в Respawn'e, моем KMP приложении, выполненной кодексом и Кентом в графе, по всем параметрам, от стоимости до найденных багов, и расскажу о результатах.

• 21-го сентября в 10 утра, мой доклад самый первый на конфе
• Конфа будет онлайн в зуме
• Запись будет доступна после доклада

Команда подлодки дали промокод на скидку в 500₽ для вас: nek12. Билет стоит 105$/7.5k₽.

Если вы думаете, что вам все еще нужно использовать Sol как "среднюю" модель, потому что я написал что Astra в 2.5 раза дороже - все равно ошибаетесь, как я :(

К моему удивлению, модель настолько эффективна по токенам, что значительно лучше Sol по всем параметрам и при этом все равно дешевле Sol даже с подскочившим ценником. Эта модель дешевле даже Gemini 3.8 Flash, той самой, которая до сих пор ни на что серьезное не годится. Astra это решение без компромиссов, и конкурент в мире ей один - Fable 5.1, но он только для тех, у кого бесконечные деньги, конечно.

Астра уже доступна на подписке.

По стандартным бенчмаркам у неё минимальная потеря качества на большом контексте. Рекомендую ставить максимальные значения в Кенте - это не повышает ценник и почти не снижает качество, впервые за историю OpenAI если я верно помню.

model = "gpt-6-astra"
model_context_window = 872000
context_compaction_threshold_tokens = 828400

• За каждый день который у вас нет доступа к Астра, вы получаете один ресет в копилку.
• Астра в кодексе не будет стоить дороже после 272к контекста . Ставьте миллионный контекст в Кенте если хотите. В обнове на этой неделе по умолчанию думаю будет подходящий контекст по уровню протухания окна (бенчей на это ещё нет).
• Первый ресет через два часа.

Сегодня, 30го, вечером, будет ещё один сброс лимитов.

Приветик, я жив, но пока занят новым сайтом для respawn.pro, поиском клиентов, и докладом про Кента на конференцию + прохождением Киберпанка. Про конференцию скоро сделаю анонс и расскажу подробнее.

Завтра поздно вечером Тибо сбросит лимиты снова.
Сбрасывал и позавчера, но не предупредил.

Привет, в течение 36 часов будет ещё один сброс лимитов. Скорее всего ночью с сегодня на завтра. Возможно это будет 1 самостоятельный сброс, потому что предыдущий истекает сегодня.

Лимиты сброшены

Готовлю вам обнову, видео, и пост про агентные графы, но из-за сбросов ничего кроме кода я не делал уже неделю - надо тратить по 4 млрд токенов в сутки, это 12-17 параллельных агентов, а это непросто даже с Кентом.

Ваши донаты + сбросы напрямую проспонсировали все фичи следующей обновы.

Channel name was changed to «Nek.12 | AI, SWE, Tech [RU]»

Лимиты сброшены 👍✅✅

UPD: Ладно, мне надоело писать о сбросах. Проблема в том, что они больше не "предсказываются" надёжно - Тибо больше не говорит когда он их сбросит чтобы не было токенмаксинга. Плюс канал превратился только в сообщения о сбросах :(

Лучше скрафчу вам статьи.

Новости:

OpenAI уменьшили ценник (включая подписку) на Luna в 5 раз, а на терра на 20%.

Если пользоваться Luna, теперь ваша подписка в 5 раз выгоднее (!), а если Terra - на 20%.

Luna теперь дешевле DeepSeek V4 Pro (который считался долгое время самой выгодной моделью в мире), при этом на 15 очков умнее.* Я крайне рекомендую Luna - она хорошо справляется с реализацией задач если дать ей хороший ризонинг (см график ниже, точки это уровни мышления). В написании кода она на уровне Терра, но дешевле в 12 раз. ¯⁠\⁠_⁠(⁠ツ⁠)⁠_⁠/⁠¯

Во времена антропика это был "соннет для кода, опус для плана". Подготовьте хороший воркфлоу и план и на небольших задачах Луна будет работать для вас почти бесплатно. Это даже дешевле чем локальные модели, шутят в комментах.


Приложенный график чет какой-то поехавший.

*UPD: ладно забейте, дипсик в тот же день выпустил обнову в которой он опять стал выгоднее и умнее Луны

Только что сбросили все лимиты из-за падения кодекса сегодня утром.