Post #4688
1.15K
Техножнец ROTOR: память с четырьмя часами Языковая модель без attention · 33.6M параметров · с нуля на PG19 Рекуррентная сеть сжимает всё прочитанное в один вектор с одной постоянной времени: давнее растворяется. Трансформер помнит всё, но платит растущим KV-кешем.…
Комментариев нет, т.к. все пошли повторять 😃
- 🫡 14
- 👏 1