Clipper 8
$ 49 /month
- vCPU
- 4 × dedicado
- RAM
- 8 GB
- Almacenamiento
- 200 GB NVMe Gen4 SSD
- Transferencia
- 20 TB
- IPv4 / IPv6
- 1 / /64 routed
Solución
VPS para API de baja latencia y backends en tiempo real
Clipper 8 · $49/moClipper 16 · $92/mo
Respuesta corta
Las respuestas de API por debajo de 10 ms son un problema de ubicación antes que un problema de código. La física impone un mínimo de aproximadamente 1 ms por cada 100 km de fibra, por lo que ninguna optimización supera estar en la ciudad equivocada. Despliegue instancias Clipper en las regiones donde se encuentran sus usuarios, mantenga la ruta crítica libre de llamadas entre regiones y mida en el percentil 99 en lugar de la media.
Qué necesitas
| Recurso | Lo que realmente necesita |
|---|---|
| CPU | Núcleos dedicados de alta frecuencia; la latencia de cola es un problema de planificación |
| RAM | 8–32 GB según el conjunto de trabajo |
| Disco | NVMe Gen4 |
| Red | Regiones con capacidad Anycast para un único punto de entrada global |
Planes recomendados
Clipper 16
$ 92 /month
- vCPU
- 8 × dedicado
- RAM
- 16 GB
- Almacenamiento
- 400 GB NVMe Gen4 SSD
- Transferencia
- 30 TB
- IPv4 / IPv6
- 1 / /64 routed
Clipper 32
$ 174 /month
- vCPU
- 12 × dedicado
- RAM
- 32 GB
- Almacenamiento
- 800 GB NVMe Gen4 SSD
- Transferencia
- 40 TB
- IPv4 / IPv6
- 1 / /64 routed
Ubicaciones recomendadas
La ubicación suele ser la decisión que más importa para esta carga de trabajo, ya sea porque domina la latencia o porque domina la jurisdicción.
Por qué OnionVPS para esto
- Los núcleos dedicados de alta frecuencia eliminan el tiempo de robo que crea los valores atípicos de p99.
- Las regiones con capacidad Anycast permiten que una única dirección enrute a la instancia sana más cercana.
- Ubicaciones en seis continentes, porque la ubicación es la mayor palanca que tiene.
- Regiones centrales bien interconectadas en los principales intercambios, por lo que las rutas son cortas y rápidas.
Cómo configurarlo
-
Mapa de dónde se originan tus solicitudes
Luego despliega en esas regiones, no en la más barata.
-
Despliega instancias de Clipper por región
Núcleos de alta frecuencia y fija el proceso.
-
Mantén la ruta crítica local a la región
Una llamada de base de datos entre regiones borra cualquier otra optimización.
-
Habilita HTTP/3 y mantén las conexiones activas
El establecimiento de conexión domina la latencia de solicitudes cortas.
-
Mide p99, no el promedio
Los promedios ocultan exactamente las solicitudes de las que se quejan tus usuarios.
Preguntas frecuentes
¿Cuál es la latencia de API realista desde un VPS?
Menos de 1 ms de tiempo de servidor es alcanzable para handlers simples en núcleos dedicados. La latencia total percibida por el usuario está dominada por la distancia: aproximadamente 1 ms por cada 100 km por trayecto, por lo que la ubicación decide el resultado.
¿Ayuda anycast a la latencia de API?
Sí, enrutando cada usuario al nodo sano más cercano sin retraso por propagación de DNS. Requiere instancias en varias regiones y está disponible en nuestras ubicaciones con capacidad anycast.
¿Por qué mi p99 es mucho peor que el promedio?
Generalmente por tiempo de CPU robado en núcleos compartidos, o por recolección de basura. Los núcleos dedicados eliminan lo primero; lo segundo es un problema de código.