onionvps

Решение

VPS для API с низкой задержкой и бэкендов реального времени

Clipper 8 · $49/moClipper 16 · $92/mo
Краткий ответ

Ответы API до 10 мс — это проблема размещения, а не кода. Физика устанавливает предел примерно в 1 мс на 100 км оптоволокна, поэтому никакая оптимизация не заменит нахождение в правильном городе. Разверните инстансы Clipper в регионах, где находятся ваши пользователи, держите горячий путь без межрегиональных вызовов и измеряйте на 99-м перцентиле, а не по среднему.

Что вам нужно

Минимальные характеристики для api с низкой задержкой
РесурсЧто вам нужно на самом деле
CPUВысокочастотные выделенные ядра; хвостовая задержка — проблема планировщика
RAM8–32 ГБ в зависимости от рабочего набора
ДискNVMe Gen4
СетьРегионы с поддержкой anycast для единой глобальной точки входа

Рекомендуемые тарифы

Clipper

Clipper 8

$ 46.55 /month

Итого 139,65 $ · Скидка 5%

vCPU
4 × dedicated
RAM
8 GB
Диск
200 GB NVMe Gen4 SSD
Трафик
20 TB
IPv4 / IPv6
1 / /64 routed
Настроить
Clipper

Clipper 16

$ 87.4 /month

Итого 262,20 $ · Скидка 5%

vCPU
8 × dedicated
RAM
16 GB
Диск
400 GB NVMe Gen4 SSD
Трафик
30 TB
IPv4 / IPv6
1 / /64 routed
Настроить
Clipper

Clipper 32

$ 165.3 /month

Итого 495,90 $ · Скидка 5%

vCPU
12 × dedicated
RAM
32 GB
Диск
800 GB NVMe Gen4 SSD
Трафик
40 TB
IPv4 / IPv6
1 / /64 routed
Настроить

Рекомендуемые местоположения

Местоположение обычно является решающим фактором для этой нагрузки — либо из-за задержек, либо из-за юрисдикции.

🇩🇪

Frankfurt

Germany 14 Eyes

🇺🇸

Ashburn

United States 5 Eyes

🇸🇬

Singapore

Singapore Нет альянсов

🇧🇷

São Paulo

Brazil Нет альянсов

🇯🇵

Tokyo

Japan Нет альянсов

Почему OnionVPS для этого

  • Выделенные высокочастотные ядра устраняют время кражи, создающее выбросы p99.
  • Регионы с поддержкой anycast позволяют одному адресу маршрутизировать к ближайшему здоровому инстансу.
  • Расположение на шести континентах, потому что размещение — самый мощный рычаг из имеющихся у вас.
  • Хорошо связанные основные регионы на крупных точках обмена трафиком, чтобы пути были короткими и быстрыми.

Как настроить

  1. Посмотрите, откуда поступают ваши запросы.

    Затем разворачивайтесь в этих регионах, а не в самом дешёвом.

  2. Разверните экземпляры Clipper в каждом регионе.

    Высокочастотные ядра и закрепите процесс.

  3. Держите горячий путь в пределах региона.

    Один межрегиональный вызов базы данных сводит на нет все остальные оптимизации.

  4. Включите HTTP/3 и держите соединения открытыми.

    Установка соединения доминирует в задержке коротких запросов.

  5. Измеряйте p99, а не среднее.

    Средние значения скрывают именно те запросы, на которые жалуются ваши пользователи.

Часто задаваемые вопросы

Какова реалистичная задержка API на VPS?

Менее 1 мс времени сервера достижимо для простых обработчиков на выделенных ядрах. Общая воспринимаемая пользователем задержка определяется расстоянием: примерно 1 мс на каждые 100 км в оба конца, поэтому размещение решает исход.

Помогает ли anycast задержке API?

Да, направляя каждого пользователя к ближайшему рабочему экземпляру без задержки распространения DNS. Для этого требуются экземпляры в нескольких регионах, и это доступно в наших локациях с поддержкой anycast.

Почему мой p99 намного хуже среднего?

Обычно это время кражи CPU на общих ядрах или сборка мусора. Выделенные ядра устраняют первое; второе — проблема кода.