我们已经使用GET endpoints 设置了边缘优化的API网关实现 .

集成 endpoints 由Java后端提供 . 内容很少变化(每隔几天) .

我们在阶段级别启用了缓存,并将其作为特定GET endpoints 的覆盖启用,并将TTL设置为一小时 .

We're seeing only about 80% of requests are returned from the cache.

运行负载测试时会发生这种情况:

每秒

  • ~1000个请求

  • 超过10分钟

  • 轻松地在0.5GB缓存限制内点击包含内容的4个URL

  • TTL不应该过期

  • 限制设置为默认值

我们的期望更像是99%的缓存请求 .

为什么我们看到如此大量的请求丢失了缓存?