⚪️ LETTA Memory Blocks

#post


Случайно наткнулся на сабж, по ходу обсуждения - когда Марио (автор pi) ворчал на Cloudflare что они без отсылок заюзали в своей системе его подход к сессиям: он древовидный, что достаточно оригинально и самобытно, поэтому бросилось в глаза. После ворчания, контора добавила отсылки, к слову - и теперь у Марио есть легкая реклама в документации CF. И одной из таких отсылок помимо Pi было - LETTA memory block.

Почитал про сабж.

🔗 И вы почитайте, в блоге: https://www.letta.com/blog/memory-blocks
🔗 и в доке: https://docs.letta.com/guides/core-concepts/memory/memory-blocks/

А вот та страничка в доке CF с отсылками:

🔗 https://developers.cloudflare.com/agents/api-reference/sessions/#acknowledgments

——

▶️ В целом выглядит интересно. LETA вообще ориентируется на память, что мне с моими memorybank подходами весьма близко.

Посмотрел что такое мемори-блок. Это способ организации операционного контекста, не для постоянной памяти. Он структурирован XML-like тегами, что правильно, - всегда сам так делаю. Дает ясную и понятную структуру контекста агентам. Сам блок устроен несложно - описание, метадата, значение. Блок может быть read-only, а так агент его редактирует тулзами.

▶️ Что показалось интересным и полезным.

Во-первых, описание блока description: это позволяет указать зачем нужна эта ячейка памяти. То есть не просто сказать - вот некое значение. А присовокупить рядом ЗАЧЕМ оно может понадобится, с какой целью оно находится в памяти агента. Очень откликается с моей концепцией аннтированных ссылок (я тоже делаю связку ЧТО и ЗАЧЕМ). Это дает практическую пользу, например, при компакте можно проанализировать актуальность, понимая цели этой ячейки, и не строить догадок с чего какая то инфомрация содержится в контексте.

Во вторых, четкое структурирование позволяет не только доабвить ясности агенту (он видит зачем ему что то помнить, но и вторичные цели достигает - можно бюджет на хранение разного рода информации выделить (в токенах), а группировать - теми же тегами в метадате. В метадате вообще можно всякое прописать: например, важность или добавить временной аспект (к какому периоду относится эта ячейка памяти, типа - какие правила действовали в прошлом году если мы анализируем документы компании). Получается довольно функционально.

👉 Вывод: годный дизайн, просто и удобно, понравилось. Не удивлен что CF забрали себе этот кусочек. Надо поступить так же)) Беда, что все подталкивает своего агента сделать - а не очень хочется ввязываться в такой сложный проект.

(ц) такое мы смотрим

@deksden_notes