一、概述

Java程序運行時，JVM會加載.class字節碼文件，但是字節碼并不能直接運行在操作系統之上，而JVM中的執行引擎就是負責將字節碼轉化為對應平臺的機器碼讓CPU運行的組件。

執行引擎是JVM核心的組成部分之一。可以把JVM架構分成三部分，如下圖所示：

?執行引擎位于JVM的最下層（圖中虛線框部分），可以粗略地看到執行引擎負責和運行時數據區交互。

二、計算機語言的發展史

在講解執行引擎之前，需要知道什么是機器碼、匯編語言、高級語言以及為什么會有Java字節碼的出現。

2.1 機器碼

各種用 0 和 1 組成的二進制編碼方式表示的指令，叫作機器指令碼，簡稱機器碼。

計算機發展的初始階段，人們就用機器碼編寫程序，我們也稱為機器語言。機器語言雖然能夠被計算機理解和接受，但由于可讀性差不便于人類讀寫，并且用它編程容易出差錯。使用機器碼編寫的程序一經輸入計算機，CPU可以直接讀取運行，因此和其他語言編的程序相比，執行速度最快。機器碼與CPU緊密相關，所以不同種類的CPU所對應的機器碼也就不同。

2.2 匯編語言

由于機器碼是由0和1組成的二進制序列，可讀性實在太差，于是人們發明了指令。

指令就是把機器碼中特定的0和1序列，簡化成對應的指令（一般為英文簡寫，如mov、inc等），可讀性稍好，這就是我們常說的匯編語言。在匯編語言中，用助記符 (Mnemonics) 代替機器碼的操作碼，用地址符號 (Symbol) 或標號 (Label) 代替指令或操作數的地址。

不同的硬件平臺，各自支持的指令是有差別的。因此每個平臺所支持的指令，稱為對應平臺的指令集，如常見的x86指令集對應的是x86架構的平臺，ARM指令集對應的是ARM架構的平臺。不同平臺之間指令不可以直接移植。

由于計算機只認識機器碼，所以用匯編語言編寫的程序還必須經過匯編器轉換為機器語言，計算機才能識別和執行。

2.3 高級語言

為了使計算機用戶編程序更容易些，后來就出現了各種高級計算機語言。比如C、C++等更容易讓人識別的語言。

高級語言則相對匯編語言更易于編寫，有更好的可讀性，一般編譯器會將高級語言轉換成匯編語言，然后再由匯編器轉換為機器指令由計算機執行。

2.4 字節碼

字節碼是一種中間狀態（中間碼）的二進制代碼（文件），需要轉譯后才能成為機器碼。Java 程序可以通過編譯器將源碼編譯成 Java 字節碼，特定平臺上的虛擬機將字節碼轉譯為可以直接執行的指令，也就實現了跨平臺性。如下圖所示：

三、執行引擎工作過程

3.1 解釋器

解釋器就是一個運行時的“翻譯者”，將字節碼指令翻譯為對應平臺的本地機器指令由CPU執行，當一條指令執行完成后再根據PC寄存器中記錄的下一條指令執行解釋操作。

JVM設計者的初衷是為了滿足Java程序實現跨平臺特性，因此避免采用靜態編譯的方式直接生成機器碼，從而誕生了實現解釋器在運行時采用逐行解釋字節碼執行程序的想法。

3.2 JIT（Just-In-Time）編譯器

當執行某些頻繁被調用的代碼（比如for循環中的代碼）時，如果按照解釋執行，效率非常低，這種被頻繁調用的代碼成為熱點代碼。為了提高熱點代碼的執行效率，在運行時，JIT編譯器則會將這些代碼編譯成與本地平臺有關的機器碼，并進行各種層次的優化。

JIT的構成組件包括：

3.2.1 JIT編譯器類型

在 Hotspot 虛擬機中內置了兩種JIT編譯器：

3.2.2 分層編譯

在 Java7 引入了分層編譯，這種方式綜合了 C1 的啟動優勢和 C2 的峰值性能優勢。分層編譯將 JVM 的執行狀態分為5個層次：

Java8 中默認開啟分層編譯，-XX:-TieredCompilation 參數可關閉分層編譯只使用C2編譯，如果只使用C1編譯可設置參數 -XX:TieredStopAtLevel=1。

-Xint參數可設置為強制解釋器模式運行，-Xcomp可設置為強制運行JIT編譯模式。

3.2.3 熱點代碼探測

Hotspot 虛擬機判定熱點代碼基于2種計數器進行，方法調用計數器和回邊計數器，只有代碼符合標準并達到設置的閾值才會進行JIT編譯優化。

1）方法調用計數器

當某個方法調用次數達到閾值就會觸發JIT編譯優化。

jinfo -flag CompileThreshold 或者 java -XX:+PrintFlagsFinal -version 命令可查看方法調用次數閾值，客戶端模式下默認值為1500，服務端模式下默認值為10000。

2）回邊計數器

用于統計方法體中循環體代碼執行次數，字節碼中遇到控制流向后跳轉的指令稱為“回邊”（Back Edge），用于計算是否為熱點代碼的閾值。

計算公式如下：

回邊計數器閾值 = 方法調用計數器閾值（CompileThreshold）*（OSR比率（OnStackReplacePercentage）-解釋器監控比例（InterpreterProfilePercentage））/ 100

java -XX:+PrintFlagsFinal -version 命令可查看相關參數

?根據圖中顯示的各參數的默認值可以計算出回邊計數器閾值為：1000 * (140 - 33) = 10700

3.2.4 編譯優化技術

1）方法內聯

方法內聯的優化行為是將目標方法的代碼復制到發起調用的方法中，避免真實方法調用。

private int add(int a, int b, int c, int d) {return addInt1(a, b) + addInt2(c, d);
}
?
private int addInt1(int a, int b) {return a + b;
}
?
private int addInt2(int a, int b) {return a + b;
}

例如上面的代碼如果被檢測為熱點代碼，則會被優化為以下代碼：

private int add(int a, int b, int c, int d) {return a + b + c + d;
}

熱點方法不一定都會被內聯優化，只有當方法體大小小于參數 -XX:FreqInlineSize 值（默認325字節）才會進行內聯，非熱點方法當方法體小于參數 -XX:MaxInlineSize 值（默認35字節）才會進行內聯。

相關性能調優 ：

• 減小熱點方法檢測閾值，增加內聯方法體閾值，缺點則是會增加內存占用
• 盡量避免在一個方法體內寫入大量代碼，習慣使用小方法體
• 盡量使用final private static 關鍵字修飾方法，代碼優化時，因為繼承需要額外的類型檢查。

2）鎖消除

當方法中的局部方法中創建的對象只能被當前線程訪問時，不存在鎖競爭，JIT編譯會對這個對象的方法進行鎖消除。

參數 -XX:+EliminateLocks 可以開啟鎖消除（默認開啟），-XX:-EliminateLocks 則是關閉鎖消除。

3）鎖粗化

如果檢測到同一個對象執行了連續的加鎖和解鎖操作，則會將這一系列操作合并成一個更大的鎖，從而提升程序運行效率。

4）逃逸分析

JIT編譯器會對熱點代碼中的對象進行逃逸分析，分析該對象動態作用域，當被傳遞到其他方法中稱為方法逃逸，當能被外部方法所引用則為線程逃逸。

不逃逸 到 方法逃逸 再到 線程逃逸，逃逸程度由低到高。

逃逸分析可以通過參數 -XX:+DoEscapeAnalysis開啟（jdk1.8默認開啟），或 -XX:-DoEscapeAnalysis 關閉。

關閉逃逸分析會導致對象分配到堆中，頻繁觸發垃圾回收導致代碼運行慢。

5）標量替換

當確定對象不會逃逸出線程之外，該對象則會被分配到棧上，對象分配到棧需要進行成員變量拆分，這種優化技術叫做標量替換。標量替換需要開啟逃逸分析。

標量替換可以通過參數 -XX:+EliminateAllocations開啟（jdk1.8默認開啟），或-XX:+EliminateAllocations關閉

3.3 垃圾收集器

Java的一個主要特點就是開發人員不需要過分關注對象的內存管理，無用對象的銷毀和空間釋放都交由JVM的垃圾收集器處理。這減輕了編程負擔提高了編程效率，但垃圾回收也會影響程序的性能。

詳細介紹見上章。

四、總結

JVM中的執行引擎是JVM的重要組成部分之一，主要負責將字節碼指令翻譯成機器碼指令。

執行引擎包括解釋器，JIT解釋器和垃圾收集器。

解釋器就是運行時的“翻譯者”，將字節碼解釋為機器指令。

但是某些頻繁執行的熱點代碼依然采用解釋執行的話會導致程序執行很慢，JIT編譯器則是負責將熱點代碼編譯分層優化成本地機器碼。

垃圾收集器則負責無用對象的銷毀，釋放內存空間。