我们已经使用GET endpoints 设置了边缘优化的API网关实现 .
集成 endpoints 由Java后端提供 . 内容很少变化(每隔几天) .
我们在阶段级别启用了缓存,并将其作为特定GET endpoints 的覆盖启用,并将TTL设置为一小时 .
We're seeing only about 80% of requests are returned from the cache.
运行负载测试时会发生这种情况:
每秒
-
~1000个请求
-
超过10分钟
-
轻松地在0.5GB缓存限制内点击包含内容的4个URL
-
TTL不应该过期
-
限制设置为默认值
我们的期望更像是99%的缓存请求 .
为什么我们看到如此大量的请求丢失了缓存?