Получить доступ

Как настроить алерты, чтобы дежурные не выгорали, а реальные проблемы не пропускались?

SeniorМониторинг и логиPrometheus
Ещё спрашивают так:
  • Что такое SLI и SLO?
  • Что такое burn rate?
Коротко

Алерт должен означать «пользователям плохо или скоро будет плохо, и человеку нужно действовать». Будить по симптомам (ошибки, задержки, доступность глазами пользователя), а не по причинам (CPU 90%) — причины на дашбордах. Основа — SLI (доля успешных и быстрых запросов) и SLO (цель, например 99,9% за 30 дней); алерт срабатывает по скорости сжигания бюджета ошибок (burn rate).

  • Каждый алерт — с инструкцией (runbook) и владельцем
  • Срочное — пейджер, несрочное — тикет
  • Регулярно разбирать: алерт сработал, а действий не было — удалить или переделать

А ещё Многооконный burn rate: быстрый (1 ч) ловит аварии, медленный (6 ч) — тихую деградацию

Так подсказку видит пользователь sotto на живом собеседовании — за пару секунд, пока вы думаете вслух.

Подробно

Бюджет ошибок. SLO 99,9% за 30 дней — допустимо 0,1% неудачных запросов, это около 43 минут полной недоступности. Burn rate 1 — бюджет кончится ровно к концу периода; burn rate 14,4 — за 2 дня.

Пример правил:

окнаburn rateреакция
1 ч и 5 мин> 14,4разбудить: за час сгорело 2% бюджета
6 ч и 30 мин> 6разбудить
3 дня и 6 ч> 1тикет

Короткое окно в паре подтверждает, что проблема ещё продолжается, — алерт быстро гаснет после устранения.

Гигиена алертов:

  • алерты без действий удаляют;
  • группировка и подавление в Alertmanager: падение БД не должно порождать сотню алертов зависимых сервисов;
  • отслеживать число ночных вызовов на дежурного;
  • разбор инцидентов без поиска виноватых.

Что хотят услышать

  • Симптомы против причин.
  • SLI, SLO, бюджет ошибок и burn rate.
  • Гигиена: runbook, удаление шумных алертов, группировка.

Связанные вопросы

Закрытая бета

Подсказки на собеседовании — в реальном времени

sotto слышит вопрос интервьюера и показывает короткий ответ и план, как в блоке «Коротко». Оставьте контакт — пришлём доступ и промокод.

  • Промокод на 2 часа — сверх пробных 30 минут
  • Программа для Windows — скачать сразу, войти — через Яндекс ID или VK ID
  • Прямая связь с разработчиком: что улучшить — сделаем