解決策

低遅延APIおよびリアルタイムバックエンド向けVPS

Clipper 8 · $49/moClipper 16 · $92/mo
短い回答

10 ms未満のAPI応答は、コードの問題以前に配置の問題です。物理法則により、ファイバー100 kmあたり約1 msの下限があるため、どれだけ最適化しても間違った都市にいることには勝てません。ユーザーがいる地域にClipperインスタンスをデプロイし、ホットパスをクロスリージョンコールなしに保ち、平均ではなく99パーセンタイルで測定してください。

必要なもの

低レイテンシーapiの仕様の下限
リソース実際に必要なもの
CPU高周波数の専用コア。テールレイテンシはスケジューリングの問題
RAMワーキングセットに応じて8〜32 GB
ディスクNVMe Gen4
ネットワーク単一のグローバルエントリポイントのためのAnycast対応リージョン

推奨プラン

Clipper

Clipper 8

$ 46.55 /month

合計$139.65 · 5%割引

vCPU
4 × 専用
RAM
8 GB
ストレージ
200 GB NVMe Gen4 SSD
転送量
20 TB
IPv4 / IPv6
1 / /64 routed
設定
Clipper

Clipper 16

$ 87.4 /month

合計$262.20 · 5%割引

vCPU
8 × 専用
RAM
16 GB
ストレージ
400 GB NVMe Gen4 SSD
転送量
30 TB
IPv4 / IPv6
1 / /64 routed
設定
Clipper

Clipper 32

$ 165.3 /month

合計$495.90 · 5%割引

vCPU
12 × 専用
RAM
32 GB
ストレージ
800 GB NVMe Gen4 SSD
転送量
40 TB
IPv4 / IPv6
1 / /64 routed
設定

推奨ロケーション

このワークロードでは、通常ロケーションの選択が最も重要です—レイテンシが支配的になるか、管轄権が支配的になるかのどちらかだからです。

これにOnionVPSを選ぶ理由

  • 専用の高周波数コアにより、p99外れ値を生み出すスチールタイムを排除します。
  • Anycast対応リージョンにより、1つのアドレスで最寄りの正常なインスタンスにルーティングできます。
  • 6大陸にロケーションを配置。配置が、手にできる最大のレバレッジだからだ。
  • 主要なIXでピアリングされたコアリージョン。経路も短く、速い。

設定方法

  1. あなたのリクエストの発信元をマッピングする

    そして、最安のリージョンではなく、そこにデプロイする。

  2. リージョンごとにClipperインスタンスをデプロイする

    高周波コアを使い、プロセスを固定する。

  3. ホットパスをリージョン内に留める

    リージョン間のデータベース呼び出しが1回あるだけで、他のすべての最適化は無意味になる。

  4. HTTP/3を有効にし、接続を維持する

    接続の確立が、短いリクエストのレイテンシの大部分を占める。

  5. 平均ではなくp99を測定する

    平均値は、ユーザーが不満を言うまさにそのリクエストを隠してしまう。

よくある質問

VPSでの現実的なAPIレイテンシはどれくらい?

専用コア上のシンプルなハンドラであれば、サーバー処理時間1ミリ秒未満が達成可能だ。ユーザーが知覚する全体のレイテンシは距離が支配する:片道約100kmあたり1ミリ秒。つまり、配置が結果を決める。

エニーキャストはAPIレイテンシに効果がある?

はい。DNS伝播の遅延なしに、各ユーザーを最寄りの健全なインスタンスにルーティングする。これには複数リージョンでのインスタンスが必要で、当社のエニーキャスト対応ロケーションで利用できる。

なぜp99が平均よりもはるかに悪いのか?

通常は共有コアでのCPUスチール時間、またはガベージコレクションだ。専用コアは前者を除去する。後者はコードの問題だ。