Получить доступ

Consumer lag стабильно растёт. Что это означает и с чего начать разбор?

MiddleKafka в эксплуатацииKafka
Ещё спрашивают так:
  • Что делать, если растёт отставание потребителя?
Коротко

Lag растёт — потребление медленнее производства. Разбор: всплеск входящего потока или замедление обработки; все партиции или одна (горячий ключ); ребалансы и повторы.

  • Медленная зависимость (база, внешний API) — частая причина
  • Одна партиция отстаёт — горячий ключ или ядовитое сообщение
  • Масштабирование — до числа партиций; дальше — партиции или параллельная обработка

А ещё Алерт по lag в секундах (время до обработки), а не только в сообщениях

Так подсказку видит пользователь sotto на живом собеседовании — за пару секунд, пока вы думаете вслух.

Подробно

Это главная метрика здоровья потребителя, и алерт стоит вешать именно на её устойчивый рост, а не на абсолютное значение — короткие всплески нормальны. Порядок разбора: посмотреть, не выросла ли скорость записи; оценить время обработки одного сообщения и найти в нём блокирующие вызовы; проверить, не упёрлись ли вы в число партиций, поскольку потребителей в группе не может эффективно работать больше, чем партиций; убедиться, что нет постоянных ребалансировок и повторов. Растущий lag опасен не только задержкой: если он превысит срок хранения, сообщения будут удалены до обработки, то есть потеряны безвозвратно.

Что хотят услышать

  • Смысл lag.
  • Порядок диагностики.
  • Меры: оптимизация, масштабирование, партиции.

Частые ошибки

  • Алертить на любое ненулевое значение lag.
  • Наращивать число потребителей сверх числа партиций.

Проверьте себя

Один верный вариант. Подумайте, потом откройте ответ.

Показать варианты и ответ
  • ✓Потребители обрабатывают медленнее, чем поступают сообщения: проверяют скорость обработки, число потребителей относительно партиций и наличие блокирующих операций
  • ✗Брокер потерял часть сообщений
  • ✗Producer отправляет сообщения с ошибками сериализации
  • ✗Требуется увеличить срок хранения сообщений в топике

Что спросят дальше

  • Что произойдёт, если lag превысит срок хранения топика?
  • Как ребалансировка влияет на этот показатель?

Разбор темы

Связанные вопросы

Закрытая бета

Подсказки на собеседовании — в реальном времени

sotto слышит вопрос интервьюера и показывает короткий ответ и план, как в блоке «Коротко». Оставьте контакт — пришлём доступ и промокод.

  • Промокод на 2 часа — сверх пробных 30 минут
  • Программа для Windows — скачать сразу, войти — через Яндекс ID или VK ID
  • Прямая связь с разработчиком: что улучшить — сделаем