Как отвечать на повторные чтения без обращения к базе
Какую работу можно не повторять
Тысячи пользователей читают одно описание товара. Оно меняется редко, но база заново получает запрос при каждом открытии страницы.
Кэш хранит копию описания и возвращает её при следующем чтении. В уроке Redis работает кэшем, а PostgreSQL хранит основные данные.
Попадание, промах и TTL
Когда копия найдена в кэше, это попадание, cache hit. Когда её нет, это промах, cache miss: за ответом нужно идти в базу.
TTL задаёт, как долго хранить копию. Например, при TTL 30 секунд после этого срока её придётся обновить. Чем дольше хранится копия, тем выше риск, что данные в базе уже изменились.
Как кэш разгружает базу
При 1 000 чтений в секунду и 700 ответах из кэша база получает оставшиеся 300. Если из кэша удалось ответить только на 400, в базу пойдут 600.
Кэш тоже ограничен по скорости. Если он не успевает проверить запрос, приложение отправляет его прямо в базу. В уроке скорость проверок обозначена lookup/с; объём памяти не рассчитывается.
На какие показатели смотреть
Сравните, сколько запросов обслужил кэш и сколько получила база. В неё идут промахи и запросы в обход кэша. Hit rate считается только среди проверенных запросов: при большом обходном потоке он может быть высоким, хотя база всё ещё перегружена.
Задержка показывает время до ответа. p95 означает границу, в которую укладываются 95% задержек. Здесь это учебный расчёт для выполненных запросов; формула приведена в разделе «О модели».
Меняйте один параметр за раз: долю повторных чтений, TTL или скорость кэша. Смотрите, как меняется поток к базе. Расчёт задержки и ограничения учебной модели описаны отдельно.
Задание
База не успевает отвечать на 1 000 чтений в секунду. Добавьте кэш, чтобы возвращать сохранённые копии данных без повторного обращения к базе.
Это прогретый поток только чтений. API не ограничивает нагрузку. Возраст повторного обращения равномерно распределён в окне 60с. Доля попаданий среди lookup = потенциальные повторы × min(TTL / 60, 1). Это допущение учебной нагрузки, а не формула работы Redis. Лимит кэша задан в lookup/с, а не в мегабайтах памяти. Обход при перегрузке — выбранная политика приложения. Модель не воспроизводит холодный старт, eviction, stampede, записи, инвалидацию и стоимость заполнения. Большой TTL может давать устаревшие данные; в этой задаче свежесть не проверяется. TTL здесь относится к сроку хранения значения, а не длительности запроса.
- Посмотрите, сколько чтений получает база без кэша.
- Добавьте Redis из панели и исследуйте влияние повторных чтений, TTL и предела lookup.
- Добейтесь допустимой нагрузки на базу, задержки и стоимости при заданном потоке.