Где размещаются объекты, создаваемые оператором new?

Основные области памяти JVM:

• куча (heap) — общая для всех потоков. Здесь живут все объекты, созданные через new, и массивы. Освобождает её сборщик мусора. Размер задаётся -Xms/-Xmx; нехватка — OutOfMemoryError: Java heap space;
• стек потока — у каждого потока свой. При вызове метода создаётся кадр (frame) с локальными переменными, параметрами и промежуточными значениями; при выходе он снимается. Примитивные локальные переменные лежат прямо в кадре, для объектов — только ссылка. Глубокая или бесконечная рекурсия даёт StackOverflowError;
• Metaspace — метаданные загруженных классов, вне кучи (раньше — PermGen);
• кэш скомпилированного кода и другие служебные области.

Почему это важно: объект в куче доступен нескольким потокам, если они получили ссылку, — отсюда проблемы конкурентного доступа. Локальные переменные в стеке видны только своему потоку.

Оптимизация escape analysis: если JIT видит, что объект не покидает метод, он может разложить его на поля в регистрах и не выделять в куче. Рассчитывать на это при проектировании нельзя.