Магия начинается, когда вы пишите какую-то вычислительную функцию, использующую, например, геометрические абстракции из java.awt.geom и не беспокоитесь о том, что создаете много локальных объектов и используете позднее связывание, поскольку JIT разберет объекты в стек и встроит их методы, превратив полиморфный код, написанный в терминах точек, прямоугольников и т. п. в примитивную арифметику. Т. е., можно спокойно сосредоточиться на алгоритме и на ясности кода.

> зато лишний расход CPU в рантайме, вместо однократного при сборке как в нормальных языках.

Это мешает для часто запускаемых и относительно недолго работающих приложений, но совершенно не является проблемой на серверах.