Post #782
3.05K
Forwarded from Сиолошная
Сиолошная В API OpenAI завезли новую фичу — Predicted Outputs. Удивительно, что они сделали это первыми — а то вот кэширование дольше всех добавляли 🥺 Predicted Outputs позволяют существенно ускорить написание ответа в ситуациях, где большая часть генерируемого текста…
Для примера ускорения, вот демка с написанием кода. Модель одна и та же, качество одно и то же, а пользовательский опыт куда лучше. Приятно!
- 🔥 10