什么是JIT

JIT 是 just in time 的缩写, 也就是即时编译编译器。

在运行时 JIT 会把翻译过的机器码保存起来，以备下次使用，因此从理论上来说，采用该 JIT 技术可以接近以前纯编译技术。下面我们看看，JIT 的工作过程。

备注：寄存器的使用是编译器的一个非常普遍的优化。寄存器的速度比主存快很多。

怎么优化JIT编译

• 初级调优：客户模式或服务器模式
• 中级编译器调优 （-cient，-server 或是-xx:+TieredCompilation）
  • 优化代码缓存 (–XX:ReservedCodeCacheSize)
  • 编译阈值 (-XX:CompileThreshold)
  • 检查编译过程 (XX:+PrintCompilation)
• 高级编译器调优
  • 编译线程 (-XX:CICompilerCount)

从优化的角度讲，最简单的选择就是使用 server 编译器的分层编译技术，这将解决大约 90%左右的与编译器直接相关的性能问题。最后，请保证代码缓存的大小设置的足够大，这样编译器将会提供最高的编译性能。

HotSpot中的JIT编译器

1.1 编译器和解释器

HotSpot中有编译器和解释器并存。

HotSpot中内置两个JIT编译器：

JVM根据自身版本和机器硬件性能自动选择

• Client Compiler，简称C1，-client参数强制
• Server Compiler，简称C2， -server参数强制

解释器和编译器搭配使用成为混合模式（Mixed Mode）

• 用-Xint参数强制JVM运行与解释模式，全部用解释方式，编译器不介入
• 用-Xcomp强制JVM运行于编译模式，优先采用编译方式

分层编译：根据比那一起编译，优化的规模耗时，划分出不同的编译层次

• 第0层，程序解释执行，解释器不开启性能监测功能，触发第一层编译
• 第1层，也叫C1编译，将字节码编译为本地代码，进行简单， 可靠的优化，如有必要，加入性能监测的逻辑
• 第2层（或者2层以上），也叫C2编译，将字节码比那一位本地代码，但会开启一些编译耗时较长的优化，甚至根据性能监控信息进行一些不可靠的激进优化

分层编译后，Client Compiler和Server Compiler将会同时工作，代码可能会被多次编译，用Client获得更高的编译速度，用Server获得更好的编译质量，解释执行的时候无需搜集性能监控信息

1.2 编译对象和触发条件

热点代码有两类：

• 多次调用的方法
• 多次执行的循环体，实际上也会以整个方法作为编译对象

判断热点的方法主要有两种：

基于采样的热点探测（Sample Based Hot Spot Detection）：周期性检查各个线程的栈顶，发现某个（某些）方法经常出现在栈顶，就是热点方法
有点简单高效，可以获取方法调用关系（将调用堆栈展开即可）
缺点是很难精确确认方法热度，容易受到线程阻塞等外界因素影响
基于计数器的热点探测（Counter Based Hot Spot Detection）：为每个方法（甚至代码块）建立计数器，统计方法调用次数，如果执行超过阈值就认为是热点方法。缺点是实现较为困难。优点是结果更精确。

基于计数器的探测：
Client模式下默认1500次，Server下默认10000次，根据参数-XX:CompileThreshold设定。
调用一个方法，先检查是否存在JIT编译版本本地代码，存在优先使用本地代码，不存在将计数器加1。然后判断调用计数器和回边计数器之和是否大于阈值，如果超过，用JIT编译器提交编译请求。JIT编译完成后方法调用入口就被系统换成新的。下次调用已编译版本。
计数器热度衰减（Counter Decay超过一定的时间限度，方法的调用次数仍未达到阈值，方法计数器减少一半。在垃圾收集期间执行，用-UseCounterDecay来关闭，以统计绝对次数。用-XX:CounterHalfLifeTime设置半半衰周期。
回边计数器：统计方法中方法体代码执行的次数，在字节码中遇到控制流向后跳动的指令成为回边（Back Edge）。
回边计数器阈值可以用-XX:OnStackReplacePercentage来间接调整。
回边计数器没有热度衰减过程。

1.3 编译过程

JVM默认情况下对于即时编译请求在编译完成之前，都按照解释方式执行，编译动作在后台线程执行

参数-XX:-BackgroundCompilation禁止后台编译，此时编译请求会等待，直到编译完成后直接执行本地代码

• Client Compiler：关注局部优化，简单快速，放弃耗时的长时优化
• Server Compiler：面向服务端，高性能，复杂，较缓慢