Что делает JIT-компилятор в JVM?

JVM начинает с интерпретации байткода и одновременно собирает статистику: какие методы вызываются чаще, какие ветки выполняются, какие типы реально приходят. Горячие участки компилируются в машинный код. В HotSpot это многоуровневая компиляция: сначала быстрый компилятор C1, затем оптимизирующий C2 для самого горячего кода.

Преимущество перед обычной заранее выполненной компиляцией — оптимизации основаны на реальном поведении программы:

• встраивание (inlining) мелких методов;
• escape analysis — объект, не покидающий метод, может не выделяться в куче;
• удаление невыполняемых веток и лишних проверок;
• оптимистичные предположения с откатом (деоптимизацией), если они перестали выполняться.

Практические следствия:

• сразу после старта приложение медленнее — это прогрев;
• наивные замеры через System.nanoTime() в цикле дают неверные цифры: прогрев, удаление «бесполезного» кода, сборка мусора. Для микробенчмарков используют JMH;
• для быстрого старта есть кэш данных о классах и заранее скомпилированные образы (GraalVM Native Image).