⚪️ Невышла 5.6!


В пятницу вечер - что бы делать? Ну конечно встерчать новое поколение моделей, которое АНОНСИРОВАНО, но НЕ выпущено клозедами. Это новое слово в отрасли - анонсирован невыпуск модели)) Говорят, что ситуация временная, как они надеятся, - но чем обернется пляска вокрут ИИ с USG пока не ясно. Надеюсь ситуации с "ИИ по [правильному] паспорту" удастся избежать.

Про модели уже все написали (бенчей насыпали чуть и потрогать нельзя - поэтому, а кто сомневался что модели будут умнее и способнее), а я напишу свое мнение, что увидел в разрезе ИИ инструментов/кодинга:

▶️ оч понравилось что наконец скопировали и перешли к модели, в "антропик стиле": "старшая" модель-флагман, средняя рабочая модель и модель помельче-подешевле для задач попроще. Старшие модели у гпт были, а вот явного выделения воркеров не делали, за исключением специализированных -кодекс моделей, но там соотношением с флагманом было не до конца понятно.

Теперь "Земля" ясно обозначена как не фронтирно умная модель, но почти уровня текущей 5.5, что для кодинга делает ее абсолютно достаточной.

Сочетание "умная модель" + "рабочая лошадка" очень даже востребовано и рабочее. Уже совершенно понятно, для каких этапов, например, SDLC флоу нужна умная модель, а где справляются воркеры на моделях попроще, побыстрее, подешевле.

Было бы неплохо поддержать как-то менеджмент моделей в инструментах - например, в том же Кодексе. Динамически тулом менять модель/ризонинг в сессии. Или добавляйте скорее dynamic workflows! там разберемся какой моделью/ризонингом шаги делать. Ситуация явно перезревает без таких возможностей/фич в кодинговом агенте.

▶️ Зато - анонсирована работа на церебрах... 750тпс... Ух! Прошли путь от заталкивания тупого спарка, через кими - уже к фронтирных моделях на церебре. Круто же, жаль, схема доступа пока непонятная. Поместить туда воркера и кратно ускорить колёсики SDLC - это врям вау.

▶️ С мелкими моделями сейчас подходы и ситуация не так устоялись. Вроде бы и -mini была неглупая, но границы возможностей этого "класса" моделей лично мне не всегда понятны. Как там с луной будет тоже пока не ясно, она дороже mini, видимо, умнее - но насколько?

Задачи для такого класса моделей я пока выделял скорее в области сбора информации/контекста (они у меня проводит рисёч шаги по кодовой базе/интернету), переработка детерминированной информации. Активно использую в своем софте как ядро бота, например.

▶️ Из не самых приятных заимствований у антропиков - теперь запись в кеш стоит +25% тарифа сверху чтения, зато добавили кешбрейкеры, что позволит немного лучше управлять кешем.

(ц) продолжаем наблюдение! а что делать?! пощупать то не дают..

@deksden_notes