Что такое cache stampede?

Как возникает. Популярный ключ (главная страница, конфигурация, товар дня) читают тысячи раз в секунду. Когда он истекает, все запросы в эту секунду промахиваются и идут в базу за одним и тем же. База получает сотни одинаковых тяжёлых запросов и может не выдержать. То же при массовом истечении ключей с одинаковым TTL и при перезапуске кэша.

Приёмы:

• разброс TTL — ttl + random(0..10%): истечения разнесены во времени;
• single flight — при промахе запрос пытается взять блокировку SET lock:key 1 NX EX 5; получивший идёт в базу и обновляет кэш, остальные ждут коротко и перечитывают кэш (или получают предыдущее значение). В одном процессе — объединение запросов в памяти (singleflight в Go, Caffeine.get(key, loader));
• stale-while-revalidate — хранить значение дольше TTL с меткой свежести: после «мягкого» истечения отдавать старое и обновлять в фоне;
• ранний вероятностный пересчёт — чем ближе истечение, тем выше шанс, что запрос обновит значение заранее (XFetch);
• прогрев после перезапуска и ограничитель параллельных запросов к базе.