Трекаем потребление токенов в Foundation Models
В iOS 26.4 появилась возможность следить за тем, как Foundation Models тратят токены. Это важно с учетом того, что размер контекста у локальных моделей очень маленький, и его наполнение сильно влияет на качество работы AI фич.
Вместо статьи можно сразу посмотреть код с примерами на GitHub.
Post #4620
5.05K