В Лабе в среду был офигенный доклад про то, как экономить контекст в агентах, в т.ч. на подписках.

Спалю одну фишку оттуда

На длине в 1 млн Клод жрет в среднем в 3 раза больше токенов на ту же задачу, чем на длине контекста в 150 тысяч.

И таких фишек там много.

А сейчас сидим, слушаем Мишу про виртуализацию, микроядра, и почему это важно рядовым пользователям хостингов.

Хотите быть в теме — вливайтесь 😎