Clipper 8
合計$139.65 · 5%割引
- vCPU
- 4 × 専用
- RAM
- 8 GB
- ストレージ
- 200 GB NVMe Gen4 SSD
- 転送量
- 20 TB
- IPv4 / IPv6
- 1 / /64 routed
解決策
10 ms未満のAPI応答は、コードの問題以前に配置の問題です。物理法則により、ファイバー100 kmあたり約1 msの下限があるため、どれだけ最適化しても間違った都市にいることには勝てません。ユーザーがいる地域にClipperインスタンスをデプロイし、ホットパスをクロスリージョンコールなしに保ち、平均ではなく99パーセンタイルで測定してください。
| リソース | 実際に必要なもの |
|---|---|
| CPU | 高周波数の専用コア。テールレイテンシはスケジューリングの問題 |
| RAM | ワーキングセットに応じて8〜32 GB |
| ディスク | NVMe Gen4 |
| ネットワーク | 単一のグローバルエントリポイントのためのAnycast対応リージョン |
合計$139.65 · 5%割引
合計$262.20 · 5%割引
合計$495.90 · 5%割引
このワークロードでは、通常ロケーションの選択が最も重要です—レイテンシが支配的になるか、管轄権が支配的になるかのどちらかだからです。
そして、最安のリージョンではなく、そこにデプロイする。
高周波コアを使い、プロセスを固定する。
リージョン間のデータベース呼び出しが1回あるだけで、他のすべての最適化は無意味になる。
接続の確立が、短いリクエストのレイテンシの大部分を占める。
平均値は、ユーザーが不満を言うまさにそのリクエストを隠してしまう。
専用コア上のシンプルなハンドラであれば、サーバー処理時間1ミリ秒未満が達成可能だ。ユーザーが知覚する全体のレイテンシは距離が支配する:片道約100kmあたり1ミリ秒。つまり、配置が結果を決める。
はい。DNS伝播の遅延なしに、各ユーザーを最寄りの健全なインスタンスにルーティングする。これには複数リージョンでのインスタンスが必要で、当社のエニーキャスト対応ロケーションで利用できる。
通常は共有コアでのCPUスチール時間、またはガベージコレクションだ。専用コアは前者を除去する。後者はコードの問題だ。