समाधान

कम-विलंबता API और रीयल-टाइम बैकएंड के लिए VPS

Clipper 8 · $49/moClipper 16 · $92/mo
संक्षिप्त उत्तर

10 ms से कम API प्रतिक्रियाएँ कोड समस्या से पहले प्लेसमेंट समस्या हैं। भौतिकी प्रति 100 किमी फाइबर पर लगभग 1 ms की निचली सीमा रखती है, इसलिए कोई भी अनुकूलन गलत शहर में होने से बेहतर नहीं है। Clipper इंस्टेंस उन क्षेत्रों में तैनात करें जहाँ आपके उपयोगकर्ता हैं, हॉट पथ को क्रॉस-क्षेत्रीय कॉल से मुक्त रखें, और माध्य के बजाय 99वें प्रतिशत पर मापें।

आपको क्या चाहिए

कम-लेटेंसी api के लिए न्यूनतम विनिर्देश
संसाधनआपको वास्तव में क्या चाहिए
CPUउच्च-आवृत्ति समर्पित कोर; पूंछ विलंबता शेड्यूलिंग समस्या है
RAMकार्य सेट के आधार पर 8–32 GB
डिस्कNVMe Gen4
नेटवर्कएकल वैश्विक प्रवेश बिंदु के लिए Anycast-क्षमता वाले क्षेत्र

अनुशंसित योजनाएँ

Clipper

Clipper 8

$ 46.55 /month

कुल $139.65 · 5% बचत

vCPU
4 × समर्पित
RAM
8 GB
स्टोरेज
200 GB NVMe Gen4 SSD
ट्रांसफर
20 TB
IPv4 / IPv6
1 / /64 routed
कॉन्फ़िगर करें
Clipper

Clipper 16

$ 87.4 /month

कुल $262.20 · 5% बचत

vCPU
8 × समर्पित
RAM
16 GB
स्टोरेज
400 GB NVMe Gen4 SSD
ट्रांसफर
30 TB
IPv4 / IPv6
1 / /64 routed
कॉन्फ़िगर करें
Clipper

Clipper 32

$ 165.3 /month

कुल $495.90 · 5% बचत

vCPU
12 × समर्पित
RAM
32 GB
स्टोरेज
800 GB NVMe Gen4 SSD
ट्रांसफर
40 TB
IPv4 / IPv6
1 / /64 routed
कॉन्फ़िगर करें

अनुशंसित स्थान

इस कार्यभार के लिए स्थान आमतौर पर सबसे महत्वपूर्ण निर्णय होता है — या तो विलंबता प्रभावी होती है, या क्षेत्राधिकार।

इसके लिए OnionVPS क्यों

  • समर्पित उच्च-आवृत्ति कोर उस steal time को समाप्त करते हैं जो p99 आउटलियर्स बनाता है।
  • Anycast-क्षमता वाले क्षेत्र एक पते को निकटतम स्वस्थ इंस्टेंस पर रूट करने देते हैं।
  • छह महाद्वीपों पर स्थान, क्योंकि प्लेसमेंट सबसे बड़ा एकल लीवर है जो आपके पास है।
  • प्रमुख एक्सचेंजों पर अच्छी तरह से जुड़े कोर क्षेत्र, ताकि पथ छोटे और तेज़ दोनों हों।

इसे कैसे सेट करें

  1. मैप करें कि आपके अनुरोध कहाँ से उत्पन्न होते हैं

    फिर उन क्षेत्रों में तैनात करें, सबसे सस्ते में नहीं।

  2. प्रति क्षेत्र क्लिपर इंस्टेंस तैनात करें

    उच्च-आवृत्ति कोर, और प्रोसेस को पिन करें।

  3. हॉट पाथ को क्षेत्र-स्थानीय रखें

    एक क्रॉस-क्षेत्रीय डेटाबेस कॉल हर दूसरे अनुकूलन को मिटा देता है।

  4. HTTP/3 सक्षम करें और कनेक्शन को जीवित रखें

    कनेक्शन सेटअप छोटे-अनुरोध विलंबता पर हावी है।

  5. p99 मापें, औसत नहीं

    औसत बिल्कुल उन अनुरोधों को छिपाते हैं जिनके बारे में आपके उपयोगकर्ता शिकायत करते हैं।

अक्सर पूछे जाने वाले प्रश्न

VPS से यथार्थवादी API विलंबता क्या है?

समर्पित कोर पर सरल हैंडलर के लिए 1 ms से कम सर्वर समय प्राप्त करने योग्य है। कुल उपयोगकर्ता-अनुभवी विलंबता दूरी से हावी होती है: प्रति 100 किमी लगभग 1 ms प्रत्येक तरह से, इसलिए प्लेसमेंट परिणाम तय करता है।

क्या anycast API विलंबता में मदद करता है?

हाँ, DNS प्रसार देरी के बिना प्रत्येक उपयोगकर्ता को निकटतम स्वस्थ इंस्टेंस पर रूट करके। इसके लिए कई क्षेत्रों में इंस्टेंस की आवश्यकता होती है और यह हमारे anycast-सक्षम स्थानों में उपलब्ध है।

मेरा p99 मेरे औसत से बहुत खराब क्यों है?

आमतौर पर साझा कोर पर CPU स्टील समय, या कचरा संग्रह। समर्पित कोर पहले को हटाते हैं; दूसरा एक कोड समस्या है।