Çözüm

Düşük gecikmeli API ve gerçek zamanlı arka uçlar için VPS

Clipper 8 · $49/moClipper 16 · $92/mo
Kısa cevap

10 ms'nin altındaki API yanıtları, bir kod sorunundan önce bir yerleşim sorunudur. Fizik, her 100 km fiber için yaklaşık 1 ms taban koyar, bu nedenle hiçbir optimizasyon yanlış şehirde olmayı telafi edemez. Kullanıcılarınızın bulunduğu bölgelere Clipper örnekleri dağıtın, sıcak yolu bölgeler arası çağrılardan uzak tutun ve ortalamadan ziyade 99. yüzdelik dilimde ölçün.

Neye ihtiyacınız var

düşük gecikmeli api'ler için asgari özellikler
KaynakGerçekte ihtiyacınız olan
CPUYüksek frekanslı özel çekirdekler; kuyruk gecikmesi bir zamanlama sorunudur
RAMÇalışma kümesine bağlı olarak 8–32 GB
DiskNVMe Gen4
Tek bir küresel giriş noktası için Anycast destekli bölgeler

Önerilen planlar

Clipper

Clipper 8

$ 46.55 /month

Toplam $139,65 · %5 tasarruf

Sanal CPU
4 × ayrılmış
RAM
8 GB
Depolama
200 GB NVMe Gen4 SSD
Aktarım
20 TB
IPv4 / IPv6
1 / /64 routed
Yapılandır
Clipper

Clipper 16

$ 87.4 /month

Toplam $262,20 · %5 tasarruf

Sanal CPU
8 × ayrılmış
RAM
16 GB
Depolama
400 GB NVMe Gen4 SSD
Aktarım
30 TB
IPv4 / IPv6
1 / /64 routed
Yapılandır
Clipper

Clipper 32

$ 165.3 /month

Toplam $495,90 · %5 tasarruf

Sanal CPU
12 × ayrılmış
RAM
32 GB
Depolama
800 GB NVMe Gen4 SSD
Aktarım
40 TB
IPv4 / IPv6
1 / /64 routed
Yapılandır

Önerilen konumlar

Bu iş yükü için en önemli karar genellikle konumdur — ya gecikme baskın olduğu için ya da yargı yetkisi baskın olduğu için.

Bunun için neden OnionVPS?

  • Özel yüksek frekanslı çekirdekler, p99 aykırı değerleri oluşturan çalıntı zamanı ortadan kaldırır.
  • Anycast destekli bölgeler, tek bir adresin en yakın sağlıklı örneğe yönlendirilmesini sağlar.
  • Altı kıtada konumlar, çünkü yerleşim sahip olduğunuz en büyük tek kaldıraçtır.
  • Büyük borsalarda iyi peerlanmış çekirdek bölgeler, böylece yollar hem kısa hem hızlıdır.

Nasıl kurulur

  1. İsteklerinizin nereden geldiğini haritalayın

    Ardından en ucuzuna değil, bu bölgelere dağıtın.

  2. Bölge başına Clipper örnekleri dağıtın

    Yüksek frekanslı çekirdekler ve süreci sabitleyin.

  3. Sıcak yolu bölge yerelinde tutun

    Tek bir bölgeler arası veritabanı çağrısı diğer tüm optimizasyonları siler.

  4. HTTP/3'ü etkinleştirin ve bağlantıları canlı tutun

    Bağlantı kurulumu kısa istek gecikmesine hâkimdir.

  5. p99'u ölçün, ortalamayı değil

    Ortalamalar, kullanıcılarınızın şikâyet ettiği istekleri tam olarak gizler.

Sık sorulan sorular

Bir VPS'ten gerçekçi API gecikmesi nedir?

Ayrılmış çekirdeklerde basit işleyiciler için 1 ms'nin altında sunucu süresi elde edilebilir. Toplam kullanıcı algılanan gecikmesine mesafe hâkimdir: her yön için 100 km başına yaklaşık 1 ms, bu yüzden yerleşim sonucu belirler.

Anycast API gecikmesine yardımcı olur mu?

Evet, DNS yayılma gecikmesi olmadan her kullanıcıyı en yakın sağlıklı örneğe yönlendirerek. Bu, birkaç bölgede örnekler gerektirir ve anycast destekli konumlarımızda mevcuttur.

p99'um neden ortalamamdan çok daha kötü?

Genellikle paylaşılan çekirdeklerde CPU çalma süresi veya çöp toplama. Ayrılmış çekirdekler ilkini kaldırır; ikincisi bir kod sorunudur.