Смотрим перцентили (p50, p95, p99), а не среднее; перцентили не усредняются — считаем из гистограмм; успешные и ошибочные запросы — раздельно.
А ещё Между медианой и p99 нет универсального соотношения
Так подсказку видит пользователь sotto на живом собеседовании — за пару секунд, пока вы думаете вслух.
Почему не среднее. Распределение задержек скошено: большинство запросов быстрые, хвост длинный. Среднее его прячет; p50 показывает типичный опыт, p95/p99 — то, что видят невезучие и на что жалуются.
Почему перцентили не усредняются. p99 каждого из десяти подов ничего не говорит о p99 их суммы. Правильно — собирать гистограммы (счётчики по бакетам задержки), складывать их и вычислять перцентиль по сумме: histogram_quantile(0.99, sum by (le) (rate(...))).
Раздельно по статусу. Ошибка часто возвращается быстро (сразу 500 или отказ circuit breaker). Если смешать, при аварии задержка даже «улучшится». Задержку считают для успешных, а долю ошибок — отдельно.
Где мерить: сервер видит время обработки, но не очередь в балансировщике, не сеть, не повторы клиента. Важны метрики на стороне клиента или балансировщика.
Хвосты в цепочках: ответ агрегатора ждёт самый медленный из N вызовов, поэтому его p99 определяется p99.9 зависимостей.
Нагрузочные тесты: генератор с фиксированной скоростью, иначе coordinated omission занижает хвост.
Несколько верных вариантов. Подумайте, потом откройте ответ.
Чем наблюдаемость отличается от мониторинга, три сигнала и что каждый умеет, RED и USE, почему среднее врёт, взрыв кардинальности, SLI/SLO/error budget и алерты на симптомы.
sotto слышит вопрос интервьюера и показывает короткий ответ и план, как в блоке «Коротко». Оставьте контакт — пришлём доступ и промокод.
sotto