JVM快速調(diào)優(yōu)手冊(cè)之六: JVM參數(shù)設(shè)置及分析

不管是YGC還是Full GC,GC過(guò)程中都會(huì)對(duì)導(dǎo)致程序運(yùn)行中中斷,正確的選擇不同的GC策略,調(diào)整JVM、GC的參數(shù)，可以極大的減少由于GC工作，而導(dǎo)致的程序運(yùn)行中斷方面的問(wèn)題，進(jìn)而適當(dāng)?shù)奶岣逬ava程序的工作效率。但是調(diào)整GC是以個(gè)極為復(fù)雜的過(guò)程，由于各個(gè)程序具備不同的特點(diǎn)，如：web和GUI程序就有很大區(qū)別（Web可以適當(dāng)?shù)耐ｎD，但GUI停頓是客戶無(wú)法接受的），而且由于跑在各個(gè)機(jī)器上的配置不同（主要cup個(gè)數(shù)，內(nèi)存不同），所以使用的GC種類(lèi)也會(huì)不同(如何選擇見(jiàn)GC種類(lèi)及如何選擇)。本文將注重介紹JVM、GC的一些重要參數(shù)的設(shè)置來(lái)提高系統(tǒng)的性能。

JVM內(nèi)存組成及GC相關(guān)內(nèi)容請(qǐng)見(jiàn)之前的文章:JVM內(nèi)存組成 GC策略&內(nèi)存申請(qǐng)

JVM參數(shù)的含義

實(shí)例見(jiàn)實(shí)例分析

整個(gè)堆大小=年輕代大小 + 年老代大小 + 持久代大小.

增大年輕代后,將會(huì)減小年老代大小.此值對(duì)系統(tǒng)性能影響較大,Sun官方推薦配置為整個(gè)堆的3/8

-XX:NewSize|設(shè)置年輕代大小(for 1.3/1.4)|

-XX:MaxNewSize|年輕代最大值(for 1.3/1.4)|

-XX:PermSize|設(shè)置持久代(perm gen)初始值|物理內(nèi)存的1/64

-XX:MaxPermSize|設(shè)置持久代最大值|物理內(nèi)存的1/4

-Xss|每個(gè)線程的堆棧大小||JDK5.0以后每個(gè)線程堆棧大小為1M,以前每個(gè)線程堆棧大小為256K.更具應(yīng)用的線程所需內(nèi)存大小進(jìn)行 調(diào)整.在相同物理內(nèi)存下,減小這個(gè)值能生成更多的線程.但是操作系統(tǒng)對(duì)一個(gè)進(jìn)程內(nèi)的線程數(shù)還是有限制的,不能無(wú)限生成,經(jīng)驗(yàn)值在3000~5000左右。

一般小的應(yīng)用， 如果棧不是很深， 應(yīng)該是128k夠用的 大的應(yīng)用建議使用256k。這個(gè)選項(xiàng)對(duì)性能影響比較大，需要嚴(yán)格的測(cè)試。（校長(zhǎng)）和threadstacksize選項(xiàng)解釋很類(lèi)似,官方文檔似乎沒(méi)有解釋,在論壇中有這樣一句話:”-Xss is translated in a VM flag named ThreadStackSize” 一般設(shè)置這個(gè)值就可以了。

-XX:ThreadStackSize|Thread Stack Size||(0 means use default stack size) [Sparc: 512; Solaris x86: 320 (was 256 prior in 5.0 and earlier); Sparc 64 bit: 1024; Linux amd64: 1024 (was 0 in 5.0 and earlier); all others 0.]

-XX:NewRatio|年輕代(包括Eden和兩個(gè)Survivor區(qū))與年老代的比值(除去持久代)||-XX:NewRatio=4表示年輕代與年老代所占比值為1:4,年輕代占整個(gè)堆棧的1/5

Xms=Xmx并且設(shè)置了Xmn的情況下，該參數(shù)不需要進(jìn)行設(shè)置。

-XX:SurvivorRatio|Eden區(qū)與Survivor區(qū)的大小比值||設(shè)置為8,則兩個(gè)Survivor區(qū)與一個(gè)Eden區(qū)的比值為2:8,一個(gè)Survivor區(qū)占整個(gè)年輕代的1/10

-XX:LargePageSizeInBytes|內(nèi)存頁(yè)的大小不可設(shè)置過(guò)大， 會(huì)影響Perm的大小||=128m

-XX:+UseFastAccessorMethods|原始類(lèi)型的快速優(yōu)化

-XX:+DisableExplicitGC|關(guān)閉System.gc()||這個(gè)參數(shù)需要嚴(yán)格的測(cè)試

-XX:MaxTenuringThreshold|垃圾最大年齡||如果設(shè)置為0的話,則年輕代對(duì)象不經(jīng)過(guò)Survivor區(qū),直接進(jìn)入年老代. 對(duì)于年老代比較多的應(yīng)用,可以提高效率.如果將此值設(shè)置為一個(gè)較大值,則年輕代對(duì)象會(huì)在Survivor區(qū)進(jìn)行多次復(fù)制,這樣可以增加對(duì)象再年輕代的存活 時(shí)間,增加在年輕代即被回收的概率

該參數(shù)只有在串行GC時(shí)才有效.

-XX:+AggressiveOpts|加快編譯

-XX:+UseBiasedLocking|鎖機(jī)制的性能改善

-Xnoclassgc|禁用垃圾回收

-XX:SoftRefLRUPolicyMSPerMB|每兆堆空閑空間中SoftReference的存活時(shí)間|1s|softly reachable objects will remain alive for some amount of time after the last time they were referenced. The default value is one second of lifetime per free megabyte in the heap

-XX:PretenureSizeThreshold|對(duì)象超過(guò)多大是直接在舊生代分配|0|單位字節(jié) 新生代采用Parallel Scavenge GC時(shí)無(wú)效

另一種直接在舊生代分配的情況是大的數(shù)組對(duì)象,且數(shù)組中無(wú)外部引用對(duì)象.

-XX:TLABWasteTargetPercent|TLAB占eden區(qū)的百分比|1%

-XX:+CollectGen0First|FullGC時(shí)是否先YGC|false

并行收集器相關(guān)參數(shù)

-XX:+UseAdaptiveSizePolicy 自動(dòng)選擇年輕代區(qū)大小和相應(yīng)的Survivor區(qū)比例
設(shè)置此選項(xiàng)后,并行收集器會(huì)自動(dòng)選擇年輕代區(qū)大小和相應(yīng)的Survivor區(qū)比例,以達(dá)到目標(biāo)系統(tǒng)規(guī)定的最低相應(yīng)時(shí)間或者收集頻率等,此值建議使用并行收集器時(shí),一直打開(kāi).
-XX:GCTimeRatio|設(shè)置垃圾回收時(shí)間占程序運(yùn)行時(shí)間的百分比||公式為1/(1+n)
-XX:+ScavengeBeforeFullGC|Full GC前調(diào)用YGC|true|Do young generation GC prior to a full GC. (Introduced in 1.4.1.)

CMS相關(guān)參數(shù)

輔助信息

new threshold 7即標(biāo)識(shí)新的存活周期的閾值為7。

GC性能方面的考慮

對(duì)于GC的性能主要有2個(gè)方面的指標(biāo)：吞吐量throughput（工作時(shí)間不算gc的時(shí)間占總的時(shí)間比）和暫停pause（gc發(fā)生時(shí)app對(duì)外顯示的無(wú)法響應(yīng)）

1. Total Heap

   默認(rèn)情況下，vm會(huì)增加/減少heap大小以維持free space在整個(gè)vm中占的比例，這個(gè)比例由MinHeapFreeRatio和MaxHeapFreeRatio指定。
   一般而言，server端的app會(huì)有以下規(guī)則：

   • 對(duì)vm分配盡可能多的memory；
   • 將Xms和Xmx設(shè)為一樣的值。如果虛擬機(jī)啟動(dòng)時(shí)設(shè)置使用的內(nèi)存比較小，這個(gè)時(shí)候又需要初始化很多對(duì)象，虛擬機(jī)就必須重復(fù)地增加內(nèi)存。
   • 處理器核數(shù)增加，內(nèi)存也跟著增大。

2. The Young Generation

   另外一個(gè)對(duì)于app流暢性運(yùn)行影響的因素是young generation的大小。young generation越大，minor collection越少；但是在固定heap size情況下，更大的young generation就意味著小的tenured generation，就意味著更多的major collection(major collection會(huì)引發(fā)minor collection)。
   NewRatio反映的是young和tenured generation的大小比例。NewSize和MaxNewSize反映的是young generation大小的下限和上限，將這兩個(gè)值設(shè)為一樣就固定了young generation的大小（同Xms和Xmx設(shè)為一樣）。
   如果希望，SurvivorRatio也可以優(yōu)化survivor的大小，不過(guò)這對(duì)于性能的影響不是很大。SurvivorRatio是eden和survior大小比例。
   一般而言，server端的app會(huì)有以下規(guī)則：

   • 首先決定能分配給vm的最大的heap size，然后設(shè)定最佳的young generation的大?。?/li>
   • 如果heap size固定后，增加young generation的大小意味著減小tenured generation大小。讓tenured generation在任何時(shí)候夠大，能夠容納所有l(wèi)ive的data（留10%-20%的空余）。

經(jīng)驗(yàn)&&規(guī)則

• 年輕代大小選擇

  • 響應(yīng)時(shí)間優(yōu)先的應(yīng)用:盡可能設(shè)大,直到接近系統(tǒng)的最低響應(yīng)時(shí)間限制(根據(jù)實(shí)際情況選擇).在此種情況下,年輕代收集發(fā)生的頻率也是最小的.同時(shí),減少到達(dá)年老代的對(duì)象.
  • 吞吐量?jī)?yōu)先的應(yīng)用:盡可能的設(shè)置大,可能到達(dá)Gbit的程度.因?yàn)閷?duì)響應(yīng)時(shí)間沒(méi)有要求,垃圾收集可以并行進(jìn)行,一般適合8CPU以上的應(yīng)用.
  • 避免設(shè)置過(guò)小.當(dāng)新生代設(shè)置過(guò)小時(shí)會(huì)導(dǎo)致:1.YGC次數(shù)更加頻繁 2.可能導(dǎo)致YGC對(duì)象直接進(jìn)入舊生代,如果此時(shí)舊生代滿了,會(huì)觸發(fā)FGC.

• 年老代大小選擇

  • 響應(yīng)時(shí)間優(yōu)先的應(yīng)用:年老代使用并發(fā)收集器,所以其大小需要小心設(shè)置,一般要考慮并發(fā)會(huì)話率和會(huì)話持續(xù)時(shí)間等一些參數(shù).如果堆設(shè)置小了,可以會(huì)造成內(nèi)存碎 片,高回收頻率以及應(yīng)用暫停而使用傳統(tǒng)的標(biāo)記清除方式;如果堆大了,則需要較長(zhǎng)的收集時(shí)間.最優(yōu)化的方案,一般需要參考以下數(shù)據(jù)獲得:
    并發(fā)垃圾收集信息、持久代并發(fā)收集次數(shù)、傳統(tǒng)GC信息、花在年輕代和年老代回收上的時(shí)間比例。
  • 吞吐量?jī)?yōu)先的應(yīng)用:一般吞吐量?jī)?yōu)先的應(yīng)用都有一個(gè)很大的年輕代和一個(gè)較小的年老代.原因是,這樣可以盡可能回收掉大部分短期對(duì)象,減少中期的對(duì)象,而年老代盡存放長(zhǎng)期存活對(duì)象.

• 較小堆引起的碎片問(wèn)題

  因?yàn)槟昀洗牟l(fā)收集器使用標(biāo)記,清除算法,所以不會(huì)對(duì)堆進(jìn)行壓縮.當(dāng)收集器回收時(shí),他會(huì)把相鄰的空間進(jìn)行合并,這樣可以分配給較大的對(duì)象.但是,當(dāng)堆空間較小時(shí),運(yùn)行一段時(shí)間以后,就會(huì)出現(xiàn)”碎片”,如果并發(fā)收集器找不到足夠的空間,那么并發(fā)收集器將會(huì)停止,然后使用傳統(tǒng)的標(biāo)記,清除方式進(jìn)行回收.如果出現(xiàn)”碎片”,可能需要進(jìn)行如下配置:
  -XX:+UseCMSCompactAtFullCollection:使用并發(fā)收集器時(shí),開(kāi)啟對(duì)年老代的壓縮.
  -XX:CMSFullGCsBeforeCompaction=0:上面配置開(kāi)啟的情況下,這里設(shè)置多少次Full GC后,對(duì)年老代進(jìn)行壓縮

• 用64位操作系統(tǒng)，Linux下64位的jdk比32位jdk要慢一些，但是吃得內(nèi)存更多，吞吐量更大

• XMX和XMS設(shè)置一樣大，MaxPermSize和MinPermSize設(shè)置一樣大，這樣可以減輕伸縮堆大小帶來(lái)的壓力

• 使用CMS的好處是用盡量少的新生代，經(jīng)驗(yàn)值是128M－256M， 然后老生代利用CMS并行收集， 這樣能保證系統(tǒng)低延遲的吞吐效率。 實(shí)際上cms的收集停頓時(shí)間非常的短，2G的內(nèi)存， 大約20－80ms的應(yīng)用程序停頓時(shí)間

• 系統(tǒng)停頓的時(shí)候可能是GC的問(wèn)題也可能是程序的問(wèn)題，多用jmap和jstack查看，或者killall -3 java，然后查看java控制臺(tái)日志，能看出很多問(wèn)題。(相關(guān)工具的使用方法將在后面的blog中介紹)

• 仔細(xì)了解自己的應(yīng)用，如果用了緩存，那么年老代應(yīng)該大一些，緩存的HashMap不應(yīng)該無(wú)限制長(zhǎng)，建議采用LRU算法的Map做緩存，LRUMap的最大長(zhǎng)度也要根據(jù)實(shí)際情況設(shè)定。

• 采用并發(fā)回收時(shí)，年輕代小一點(diǎn)，年老代要大，因?yàn)槟昀洗笥玫氖遣l(fā)回收，即使時(shí)間長(zhǎng)點(diǎn)也不會(huì)影響其他程序繼續(xù)運(yùn)行，網(wǎng)站不會(huì)停頓

• JVM參數(shù)的設(shè)置(特別是 –Xmx –Xms –Xmn -XX:SurvivorRatio -XX:MaxTenuringThreshold等參數(shù)的設(shè)置沒(méi)有一個(gè)固定的公式，需要根據(jù)PV old區(qū)實(shí)際數(shù)據(jù) YGC次數(shù)等多方面來(lái)衡量。為了避免promotion faild可能會(huì)導(dǎo)致xmn設(shè)置偏小，也意味著YGC的次數(shù)會(huì)增多，處理并發(fā)訪問(wèn)的能力下降等問(wèn)題。每個(gè)參數(shù)的調(diào)整都需要經(jīng)過(guò)詳細(xì)的性能測(cè)試，才能找到特定應(yīng)用的最佳配置。

promotion failed

垃圾回收時(shí)promotion failed是個(gè)很頭痛的問(wèn)題，一般可能是兩種原因產(chǎn)生，第一個(gè)原因是救助空間不夠，救助空間里的對(duì)象還不應(yīng)該被移動(dòng)到年老代，但年輕代又有很多對(duì)象需要放入救助空間；第二個(gè)原因是年老代沒(méi)有足夠的空間接納來(lái)自年輕代的對(duì)象；這兩種情況都會(huì)轉(zhuǎn)向Full GC，網(wǎng)站停頓時(shí)間較長(zhǎng)。

解決方方案一

第一個(gè)原因我的最終解決辦法是去掉救助空間，設(shè)置-XX:SurvivorRatio=65536 -XX:MaxTenuringThreshold=0即可，第二個(gè)原因我的解決辦法是設(shè)置CMSInitiatingOccupancyFraction為某個(gè)值（假設(shè)70），這樣年老代空間到70%時(shí)就開(kāi)始執(zhí)行CMS，年老代有足夠的空間接納來(lái)自年輕代的對(duì)象。

解決方案一的改進(jìn)方案

又有改進(jìn)了，上面方法不太好，因?yàn)闆](méi)有用到救助空間，所以年老代容易滿，CMS執(zhí)行會(huì)比較頻繁。我改善了一下，還是用救助空間，但是把救助空間加大，這樣也不會(huì)有promotion failed。具體操作上，32位Linux和64位Linux好像不一樣，64位系統(tǒng)似乎只要配置MaxTenuringThreshold參數(shù)，CMS還是有暫停。為了解決暫停問(wèn)題和promotion failed問(wèn)題，最后我設(shè)置-XX:SurvivorRatio=1 ，并把MaxTenuringThreshold去掉，這樣即沒(méi)有暫停又不會(huì)有promotoin failed，而且更重要的是，年老代和永久代上升非常慢（因?yàn)楹枚鄬?duì)象到不了年老代就被回收了），所以CMS執(zhí)行頻率非常低，好幾個(gè)小時(shí)才執(zhí)行一次，這樣，服務(wù)器都不用重啟了。

-Xmx4000M -Xms4000M -Xmn600M -XX:PermSize=500M -XX:MaxPermSize=500M -Xss256K -XX:+DisableExplicitGC -XX:SurvivorRatio=1 -XX:+UseConcMarkSweepGC -XX:+UseParNewGC -XX:+CMSParallelRemarkEnabled -XX:+UseCMSCompactAtFullCollection -XX:CMSFullGCsBeforeCompaction=0 -XX:+CMSClassUnloadingEnabled -XX:LargePageSizeInBytes=128M -XX:+UseFastAccessorMethods -XX:+UseCMSInitiatingOccupancyOnly -XX:CMSInitiatingOccupancyFraction=80 -XX:SoftRefLRUPolicyMSPerMB=0 -XX:+PrintClassHistogram -XX:+PrintGCDetails -XX:+PrintGCTimeStamps -XX:+PrintHeapAtGC -Xloggc:log/gc.log

CMSInitiatingOccupancyFraction值與Xmn的關(guān)系公式

上面介紹了promontion faild產(chǎn)生的原因是EDEN空間不足的情況下將EDEN與From survivor中的存活對(duì)象存入To survivor區(qū)時(shí),To survivor區(qū)的空間不足，再次晉升到old gen區(qū)，而old gen區(qū)內(nèi)存也不夠的情況下產(chǎn)生了promontion faild從而導(dǎo)致full gc.那可以推斷出：eden+from survivor < old gen區(qū)剩余內(nèi)存時(shí)，不會(huì)出現(xiàn)promontion faild的情況，即：
(Xmx-Xmn)*(1-CMSInitiatingOccupancyFraction/100)>=(Xmn-Xmn/(SurvivorRatior+2)) 進(jìn)而推斷出：

CMSInitiatingOccupancyFraction <=((Xmx-Xmn)-(Xmn-Xmn/(SurvivorRatior+2)))/(Xmx-Xmn)*100 

例如：

當(dāng)xmx=128 xmn=36 SurvivorRatior=1時(shí) CMSInitiatingOccupancyFraction<=((128.0-36)-(36-36/(1+2)))/(128-36)*100 =73.913 

當(dāng)xmx=128 xmn=24 SurvivorRatior=1時(shí) CMSInitiatingOccupancyFraction<=((128.0-24)-(24-24/(1+2)))/(128-24)*100=84.615… 

當(dāng)xmx=3000 xmn=600 SurvivorRatior=1時(shí)  CMSInitiatingOccupancyFraction<=((3000.0-600)-(600-600/(1+2)))/(3000-600)*100=83.33

CMSInitiatingOccupancyFraction低于70% 需要調(diào)整xmn或SurvivorRatior值。

令：

網(wǎng)上一童鞋推斷出的公式是：:(Xmx-Xmn)*(100-CMSInitiatingOccupancyFraction)/100>=Xmn 這個(gè)公式個(gè)人認(rèn)為不是很?chē)?yán)謹(jǐn)，在內(nèi)存小的時(shí)候會(huì)影響xmn的計(jì)算。