Redis发布LangCache语义缓存服务降本提速

发生了什么

据MarkTechPost报道，Redis发布LangCache语义缓存服务，通过REST API和SDK提供预览版。该服务声称可降低高达90%的LLM API成本，并将缓存命中响应速度提升15倍。客户Mangoes.ai报告命中率70%，支出减少70%。