piqc — сборщик фактов о выводе (inference) с открытым исходным кодом для кластеров Kubernetes. Он собирает факты, учитывающие особенности моделей: что выполняется, на каком оборудовании, с какими затратами и с каким уровнем потерь, — и представляет их в виде стандартизированного пакета фактов, который используется слоем оптимизации.

📌 Подробнее: https://github.com/paralleliq/piqc

MemOps🤨