Solution

VPS pour API à faible latence et backends en temps réel

Clipper 8 · $49/moClipper 16 · $92/mo
Réponse courte

Des réponses API sous 10 ms sont un problème de placement avant d'être un problème de code. La physique impose un plancher d'environ 1 ms pour 100 km de fibre, donc aucune optimisation ne remplace le fait d'être dans la bonne ville. Déployez des instances Clipper dans les régions où se trouvent vos utilisateurs, gardez le chemin critique exempt d'appels interrégions et mesurez au 99e percentile plutôt qu'à la moyenne.

Ce dont vous avez besoin

Plancher de spécifications pour api à faible latence
RessourceCe dont vous avez réellement besoin
CPUCœurs dédiés à haute fréquence; la latence de queue est un problème d'ordonnancement
RAM8–32 Go selon l'ensemble de travail
DisqueNVMe Gen4
RéseauRégions compatibles Anycast pour un point d'entrée mondial unique

Plans recommandés

Clipper

Clipper 8

$ 49 /month
vCPU
4 × dédié
RAM
8 GB
Stockage
200 GB SSD NVMe Gen4
Transfert
20 TB
IPv4 / IPv6
1 / /64 routed
Configurer
Clipper

Clipper 16

$ 92 /month
vCPU
8 × dédié
RAM
16 GB
Stockage
400 GB SSD NVMe Gen4
Transfert
30 TB
IPv4 / IPv6
1 / /64 routed
Configurer
Clipper

Clipper 32

$ 174 /month
vCPU
12 × dédié
RAM
32 GB
Stockage
800 GB SSD NVMe Gen4
Transfert
40 TB
IPv4 / IPv6
1 / /64 routed
Configurer

Emplacements recommandés

L'emplacement est généralement la décision la plus importante pour ce type de charge de travail — soit parce que la latence domine, soit parce que la juridiction en fait partie.

Pourquoi OnionVPS pour cela

  • Les cœurs dédiés à haute fréquence éliminent le temps de vol qui crée des valeurs aberrantes p99.
  • Les régions compatibles Anycast permettent à une seule adresse d'acheminer vers l'instance saine la plus proche.
  • Des emplacements sur six continents, car le placement est le plus grand levier dont vous disposez.
  • Des régions centrales bien interconnectées sur les grands points d'échange, donc des chemins courts et rapides.

Comment le configurer

  1. Cartographiez l'origine de vos requêtes

    Déployez ensuite dans ces régions, pas dans la moins chère.

  2. Déployez des instances Clipper par région

    Des cœurs haute fréquence, et épinglez le processus.

  3. Gardez le chemin critique local à la région

    Un appel de base de données inter-régional efface toutes les autres optimisations.

  4. Activez HTTP/3 et gardez les connexions ouvertes

    L'établissement de connexion domine la latence des requêtes courtes.

  5. Mesurez le p99, pas la moyenne

    Les moyennes masquent exactement les requêtes dont vos utilisateurs se plaignent.

Questions fréquemment posées

Quelle est la latence API réaliste depuis un VPS ?

Moins de 1 ms de temps serveur est réalisable pour des gestionnaires simples sur cœurs dédiés. La latence totale perçue par l'utilisateur est dominée par la distance : environ 1 ms par 100 km aller-retour, donc l'emplacement décide du résultat.

L'anycast aide-t-il la latence API ?

Oui, en routant chaque utilisateur vers l'instance saine la plus proche sans délai de propagation DNS. Cela nécessite des instances dans plusieurs régions et est disponible dans nos emplacements compatibles anycast.

Pourquoi mon p99 est-il bien pire que ma moyenne ?

Généralement le temps de vol de CPU sur les cœurs partagés, ou le ramasse-miettes. Les cœurs dédiés éliminent le premier ; le second est un problème de code.