浅析 JIT 即时编译技术

即时编译回顾

HotSpot 虚拟机执行 Java 程序时，先通过解释器对代码解释执行，发现某个方法或代码块执行比较频繁后，对热点代码进行编译，编译后生成与本地平台相关的机器码，再去执行机器码获得较高的运行效率。必要时，也会通过逆优化从即时编译回到解释执行，如编译器遇到罕见陷阱的情况。

在 Java 虚拟机规范中，并未要求虚拟机必须实现即时编译，但即时编译在主流的虚拟机中都有实现，后文所有讨论都基于 HotSpot 虚拟机。

即时编译器

HotSpot 虚拟机中有两个即时编译器，分别为 Client Compiler 和 Server Compiler，简称为 C1 编译器和 C2 编译器。C1 编译器占用内存小，进行局部优化，代码执行效率比 C2 编译器低，适用于客户端应用； C2 编译器占用内存大，进行全局优化，代码执行效率比 C1 编译器高，适用于服务端应用。在 JDK 1.7 以后的 HotSpot 虚拟机中，采用了被称为分层编译的策略，启动时解释执行提高启动速度，然后 C1 编译获取较好的编译速度，再 C2 编译获取较好的编译质量。

默认情况下，虚拟机会自动选择合适的编译器与解释器一起配合工作，用户也可以在启动参数里使用 “-client” 或 “-server” 来强制要求虚拟机使用某一种编译器。编译器与解释器一起配合工作的模式，被称为混合模式。用户也可以在启动参数里使用 “-Xint” 来要求虚拟机只使用解释器，使用 “-Xcomp” 来要求虚拟机只使用编译器。

被多次调用的方法和被多次执行的循环体，就是即时编译器关注的热点代码。在 HotSpot 中，采用了基于计数器的热点探测技术，为每个方法定义了两个计数器：方法调用计数器、回边计数器。

默认情况下，如果一段时间内方法调用计数器的值没有超过虚拟机设置的阈值，则在垃圾回收时计数器会热度衰减，数值减少 1/2，此时间范围又被称为半衰期。所以方法调用计数器中存储的实际上并不是方法调用的绝对次数。用户可以调整半衰期的值，甚至可以关闭热度衰减。

回边计数器则统计了循环体执行的绝对次数，它的阈值可以由方法调用计数器的阈值计算出来。如果回边计数器发生溢出，也会把方法调用计数器调整为溢出。

调用方法时，如果两个计数器之和超过了方法调用计数器的阈值，就会提交方法的编译请求。循环体执行时，如果两个计数器之和超过了回边计数器的阈值，也是编译代码块所在的方法，因为此时方法正在执行中，又被称为栈上替换，即替换方法时方法的栈帧还在栈上。

默认情况下，编译器在后台进行编译，即调用热点代码发现需要编译时，先以解释方式继续执行，向编译器发送编译请求，编译结束后下次调用时才使用编译的本地代码。用户也可以通过启动参数来要求虚拟机禁止后台编译，编译结束前热点代码的执行处于阻塞状态。

优化技术

HotSpot 虚拟机使用了很多种优化技术，这里只简单介绍其中的几种，完整的优化技术介绍可以参考官网内容。

公共子表达式消除：

如果一个表达式已经进行过计算，并且在下次用到之前依赖的变量没有变化，即表达式的计算结果不会发生变化，则在下次使用这个表达式时直接使用计算的结果。

数组边界检查消除：

在 Java 中访问数组时，会自动进行边界检查来防止数组下标越界。但是对于某些情况并不需要每次访问都去检查，如在一个循环中遍历数组元素，如果虚拟机能够确定下标不会发生越界并且优化确实能够提高运行速度，则虚拟机会去除每次访问的下标检查。

方法内联：

对于可以内联的方法，直接复制到调用者代码中，减少方法调用次数和性能消耗。

逃逸分析：

方法中定义的一个对象，如果会被其他方法访问则称为方法逃逸，如果会被其他线程访问则称为线程逃逸。对于不能逃逸的对象，HotSpot 虚拟机采用了栈上分配、同步消除、标量替换等方法进行优化。