Bedrock научился кэшировать промпты — расходы на ИИ-поддержку падают в разы

AWS добавила в Amazon Bedrock кэширование промптов: приложения теперь могут переиспользовать ранее обработанные части запроса (системные инструкции, длинный контекст, примеры) вместо их повторной обработки при каждом вызове.

Читать на inite.ai