Clipper 8
$ 46.55 /month
总计 US$139.65 · 节省 5%
- vCPU
- 4 × 专用
- RAM
- 8 GB
- 存储
- 200 GB NVMe Gen4 SSD
- 流量
- 20 TB
- IPv4 / IPv6
- 1 / /64 routed
解决方案
亚 10 毫秒的 API 响应首先是部署位置问题,然后才是代码问题。物理定律决定了每 100 公里光纤约 1 毫秒的下限,因此无论怎么优化都无法弥补城市选择错误。在用户所在的区域部署 Clipper 实例,保持热路径不跨区域调用,并测量第 99 百分位而非平均值。
| 资源 | 你实际需要的东西 |
|---|---|
| CPU | 高频专属核心;尾部延迟是调度问题 |
| RAM | 8–32 GB,取决于工作集 |
| 磁盘 | NVMe Gen4 |
| 网络 | 支持 Anycast 的区域,提供单一全球入口点 |
总计 US$139.65 · 节省 5%
总计 US$262.20 · 节省 5%
总计 US$495.90 · 节省 5%
对于此工作负载,位置通常是影响最大的决定——要么因为延迟至关重要,要么因为司法管辖区至关重要。
然后部署到这些区域,而不是最便宜的区域。
使用高频核心,并固定进程。
一次跨区域数据库调用会抹掉所有其他优化。
连接建立主导了短请求的延迟。
平均值恰恰隐藏了你的用户抱怨的请求。
对于简单处理器在专用核心上,服务器时间可低于1毫秒。用户感知的总延迟主要由距离决定:每100公里往返大约1毫秒,所以位置决定了结果。
是的,通过将每个用户路由到最近的健康实例,无需DNS传播延迟。它需要在多个区域有实例,并且在我们支持任播的位置可用。
通常是共享核心上的CPU偷取时间,或是垃圾回收。专用核心消除了前者;后者是代码问题。