Единая точка входа должна переживать отказ приложения
Кто принимает запрос
Перед несколькими приложениями можно поставить общий вход, reverse proxy. Он принимает запрос и передаёт его одному из приложений. Эти приложения в схеме называются upstream.
Почему нужен health check
Приложение может перестать отвечать. Чтобы заметить отказ, proxy периодически проверяет его доступность: это health check. Пока отказ не обнаружен, часть запросов продолжает уходить в неработающее приложение. После обнаружения оставшимся приложениям нужна мощность для всего потока.
Как посчитать запас
После отказа одного из трёх приложений по 300 запросов в секунду остаётся мощность 600. Для потока 900 этого мало. Четыре приложения оставят три работающих, которые смогут выполнить 900.
Что отличает этот опыт от балансировки
Добавьте proxy и запас приложений, затем подберите интервал проверок. Сравните потери до обнаружения отказа с мощностью после него. Быстро найти сломанное приложение полезно, но оставшимся всё ещё нужно справиться с потоком.
Задание
Одно приложение перестаёт отвечать. Настройте общий вход, который заметит отказ и направит запросы к оставшимся приложениям.
60 с, на 20 с первое приложение прекращает отвечать. Без proxy весь поток адресован ему. Proxy распределяет поток по upstream; до обнаружения отказа доля запросов к нему теряется, затем остаётся мощность только здоровых приложений. Первое наблюдение health check происходит на секунде отказа, поэтому задержка=интервал−1.
- Добавьте reverse proxy и нужное количество приложений.
- Настройте интервал проверки доступности.
- Проверьте решение на всём 60-секундном интервале, включая отказ.