archinario.
Все статьи

Почему база перегружена, хотя кэш часто находит данные

80% попаданий в кэш могут оставить базе 840 из 1000 запросов в секунду. Разберём этот пример, обход кэша и влияние TTL на нагрузку.

Какие запросы входят в hit rate

Приложение может отправлять в кэш лишь часть запросов, а остальные сразу в базу. Поэтому важно знать, какие запросы вошли в расчёт попаданий. Записи и некоторые другие операции тоже могут обходить кэш.

Hit rate означает долю запросов, для которых кэш нашёл ответ. Она считается только среди проверенных запросов. Отдельно посчитайте промахи и обращения в обход кэша: именно они доходят до базы. В приложении база может получать и другую работу.

80% попаданий и 840 обращений к базе

Каждую секунду приходят 1000 чтений. Кэш успевает проверить 200 и находит данные в 80% случаев. Значит, он отвечает на 160 запросов. Ещё 40 запросов дают промах, а оставшиеся 800 вообще не проверяют кэш.

База получает 40 + 800 = 840 запросов в секунду. Теперь увеличим скорость кэша, чтобы через него проходили все 1000 чтений. При тех же 80% попаданий базе останутся 200 запросов. Так устроен обход в учебной модели: избыток отправляет приложение. Redis сам не выбирает эту политику.

Как TTL влияет на повторы и свежесть

TTL задаёт срок хранения копии данных. После короткого срока её чаще приходится получать заново. Долгий срок помогает отвечать из кэша, но за это время данные в базе могут измениться. Выберите, насколько старый ответ допустим для приложения и как его обновлять.

В настоящем Redis запись может исчезнуть и раньше: например, если памяти мало и сработало вытеснение старых ключей. Поведение зависит от настройки maxmemory и политики удаления. Лаборатория не считает память, вытеснение, холодный старт, одновременные промахи и обновление кэша после записи.

Стоимость оставшихся запросов

Оставшиеся запросы могут быть самыми тяжёлыми. Даже небольшое число таких запросов способно перегрузить базу. Сравните время выполнения и загрузку ресурсов. Проверьте, не ждут ли запросы освобождения соединений или данных, занятых другой операцией.

Если база всё ещё не справляется, проследите путь чтения и проверьте, какие данные повторяются. Возможно, нужно ускорить поиск индексом или настроить соединения с базой. Меняйте по одному фактору, чтобы видеть причину результата.

Как воспроизвести пример в лаборатории

Откройте лабораторию кэширования. Задайте 1000 запросов в секунду, 80% повторных чтений и TTL 60 секунд. Сравните скорость кэша 200 и 1500 проверок в секунду. Посмотрите, сколько ответов вернул кэш и сколько запросов осталось базе.

Затем уменьшите TTL до 30 секунд и сравните результат. Учебная модель начинает с прогретого кэша и связывает попадания с окном повторов 60 секунд. Настоящий Redis не определяет долю попаданий по этой формуле. Для своего приложения проверяйте её по измерениям и допустимой давности данных.

Проверить в лаборатории

Источники