追蹤JVM中的本地內(nèi)存

1.概述

有沒有想過(guò)為什么Java應(yīng)用程序通過(guò)眾所周知的-Xms和-Xmx調(diào)優(yōu)標(biāo)志消耗的內(nèi)存比指定數(shù)量多得多？出于各種原因和可能的優(yōu)化，JVM可以分配額外的本機(jī)內(nèi)存。這些額外的分配最終會(huì)使消耗的內(nèi)存超出-Xmx限制。

在本教程中，我們將列舉JVM中的一些常見內(nèi)存分配源，以及它們的大小調(diào)整標(biāo)志，然后學(xué)習(xí)如何使用本機(jī)內(nèi)存跟蹤監(jiān)視它們。

2.原生分配

堆通常是Java應(yīng)用程序中最大的內(nèi)存使用者，但還有其他人。除了堆之外，JVM還從本機(jī)內(nèi)存中分配出一個(gè)相當(dāng)大的塊來(lái)維護(hù)類的元數(shù)據(jù)，應(yīng)用程序代碼，JIT生成的代碼，內(nèi)部數(shù)據(jù)結(jié)構(gòu)等。在下面的部分中，我們將探討其中的一些分配。

2.1. Metaspace(元空間)

為了維護(hù)有關(guān)已加載類的一些元數(shù)據(jù)，JVM使用名為Metaspace的專用非堆區(qū)域。在Java 8之前，被稱為PermGen或Permanent Generation。 Metaspace或PermGen包含有關(guān)已加載類的元數(shù)據(jù)，而不是它們的實(shí)例，它們保存在堆中。

這里重要的是堆大小配置不會(huì)影響元空間大小，因?yàn)镸etaspace是一個(gè)堆外數(shù)據(jù)區(qū)。為了限制Metaspace大小，我們使用其他調(diào)優(yōu)標(biāo)志：

• -XX：MetaspaceSize和-XX：MaxMetaspaceSize設(shè)置最小和最大元空間大小

• 在Java 8之前，-XX：PermSize和-XX：MaxPermSize設(shè)置最小和最大PermGen大小

  2.2. Threads(線程)

  JVM中最耗費(fèi)內(nèi)存的數(shù)據(jù)區(qū)之一是堆棧，與每個(gè)線程同時(shí)創(chuàng)建。堆棧存儲(chǔ)局部變量和部分結(jié)果，在方法調(diào)用中起著重要作用。

  默認(rèn)的線程堆棧大小取決于平臺(tái)，但在大多數(shù)現(xiàn)代64位操作系統(tǒng)中，它大約為1 MB。此大小可通過(guò)-Xss調(diào)整標(biāo)志進(jìn)行配置。

  與其他數(shù)據(jù)區(qū)域相比，當(dāng)對(duì)線程數(shù)沒有限制時(shí)，分配給堆棧的總內(nèi)存實(shí)際上是無(wú)限制的。值得一提的是，JVM本身需要一些線程來(lái)執(zhí)行其內(nèi)部操作，如GC或即時(shí)編譯。

  2.3. Code Cache(代碼緩存)

  為了在不同平臺(tái)上運(yùn)行JVM字節(jié)碼，需要將其轉(zhuǎn)換為機(jī)器指令。執(zhí)行程序時(shí)，JIT編譯器負(fù)責(zé)此編譯。

  當(dāng)JVM將字節(jié)碼編譯為匯編指令時(shí)，它會(huì)將這些指令存儲(chǔ)在稱為代碼緩存的特殊非堆數(shù)據(jù)區(qū)中?？梢韵窆芾鞪VM中的其他數(shù)據(jù)區(qū)一樣管理代碼緩存。 -XX：InitialCodeCacheSize和-XX：ReservedCodeCacheSize調(diào)整標(biāo)志確定代碼緩存的初始值和可能最大值。

  2.4. Garbage Collection(垃圾回收)

  JVM附帶了一些GC算法，每個(gè)算法適用于不同的用例。所有這些GC算法都有一個(gè)共同的特點(diǎn)：他們需要使用一些堆外數(shù)據(jù)結(jié)構(gòu)來(lái)執(zhí)行他們的任務(wù)。這些內(nèi)部數(shù)據(jù)結(jié)構(gòu)消耗更多本機(jī)內(nèi)存。

  2.5. Symbols(符號(hào))

  讓我們從 Strings 開始，這是應(yīng)用程序和庫(kù)代碼中最常用的數(shù)據(jù)類型之一。由于它們無(wú)處不在，它們通常占據(jù)堆的很大一部分。如果大量的這些字符串包含相同的內(nèi)容，那么堆的很大一部分將被浪費(fèi)。

  為了節(jié)省一些堆空間，我們可以存儲(chǔ)每個(gè) String 的一個(gè)版本，并讓其他版本引用存儲(chǔ)的版本。此過(guò)程稱為 String Interning 。由于JVM只能內(nèi)部編譯時(shí)間字符串常量，我們可以手動(dòng)調(diào)用字符串的intern方法來(lái)獲取內(nèi)部編譯字符串。

  JVM將實(shí)際存儲(chǔ)的字符串存儲(chǔ)在本機(jī)特殊固定大小并稱為字符串表的哈希表中，也稱為字符串池。我們可以通過(guò)-XX：StringTableSize調(diào)整標(biāo)志配置表大?。赐暗臄?shù)量）。

  除了字符串表之外，還有另一個(gè)稱為運(yùn)行時(shí)常量池的本機(jī)數(shù)據(jù)區(qū)域。 JVM使用此池來(lái)存儲(chǔ)常量，如編譯時(shí)數(shù)字文字或必須在運(yùn)行時(shí)解析的方法和字段引用。

  2.6. Native Byte Buffers(本地字節(jié)緩沖區(qū))

  JVM通常有大量分配本機(jī)內(nèi)存的嫌疑，但有時(shí)開發(fā)人員也可以直接分配本機(jī)內(nèi)存。最常見的方法是被JNI調(diào)用的malloc和NIO中可直接調(diào)用的ByteBuffers。

  2.7. Additional Tuning Flags(額外的調(diào)整標(biāo)志)

  在本節(jié)中，我們針對(duì)不同的優(yōu)化方案使用了少量JVM調(diào)優(yōu)標(biāo)志。使用以下提示，我們幾乎可以找到與特定概念相關(guān)的所有調(diào)優(yōu)標(biāo)志：

  $ java -XX:+PrintFlagsFinal -version | grep <concept>

  PrintFlagsFinal打印JVM中的所有-XX選項(xiàng)。例如，要查找所有與Metaspace相關(guān)的標(biāo)志：

  $ java -XX:+PrintFlagsFinal -version | grep Metaspace
      // truncated
      uintx MaxMetaspaceSize                          = 18446744073709547520                    {product}
      uintx MetaspaceSize                             = 21807104                                {pd product}
      // truncated

  3. 本機(jī)內(nèi)存跟蹤 (NMT)

  現(xiàn)在我們已經(jīng)了解了JVM中本機(jī)內(nèi)存分配的常見來(lái)源，現(xiàn)在是時(shí)候找出如何監(jiān)視它們了。首先，我們應(yīng)該使用另一個(gè)JVM調(diào)優(yōu)標(biāo)志啟用本機(jī)內(nèi)存跟蹤：-XX：NativeMemoryTracking = off | sumary | detail。默認(rèn)情況下，NMT處于關(guān)閉狀態(tài)，但我們可以使其查看其觀察的摘要或詳細(xì)視圖。

  假設(shè)我們想要跟蹤典型Spring Boot應(yīng)用程序的本機(jī)分配：

  $ java -XX:NativeMemoryTracking=summary -Xms300m -Xmx300m -XX:+UseG1GC -jar app.jar

  在這里，我們?cè)诜峙?00 MB堆空間的同時(shí)啟用NMT，G1作為我們的GC算法。

  3.1. 實(shí)例快照

  啟用NMT后，我們可以使用jcmd命令隨時(shí)獲取本機(jī)內(nèi)存信息：

  $ jcmd <pid> VM.native_memory

  為了找到JVM應(yīng)用程序的PID，我們可以使用jps命令：

  $ jps -l                    
  7858 app.jar // This is our app
  7899 sun.tools.jps.Jps

  現(xiàn)在，如果我們將jcmd與適當(dāng)?shù)膒id一起使用，VM.native_memory會(huì)使JVM打印出有關(guān)本機(jī)分配的信息：

  $ jcmd 7858 VM.native_memory

  讓我們逐節(jié)分析NMT輸出。

  3.2. 總分配

  NMT報(bào)告全部保留和提交的內(nèi)存如下：

  Native Memory Tracking:
  Total: reserved=1731124KB, committed=448152KB

  保留內(nèi)存表示我們的應(yīng)用程序可能使用的內(nèi)存總量。相反，提交的內(nèi)存表示我們的應(yīng)用程序現(xiàn)在使用的內(nèi)存量。

  盡管分配了300MB的堆，我們的應(yīng)用程序的總預(yù)留內(nèi)存幾乎是1.7 GB，遠(yuǎn)遠(yuǎn)超過(guò)它。類似地，提交的內(nèi)存大約為440 MB，這再次遠(yuǎn)遠(yuǎn)超過(guò)300 MB。

  在整體了解之后，NMT報(bào)告每個(gè)分配源的內(nèi)存分配。所以，讓我們深入探討每個(gè)來(lái)源。

  3.3. Heap(堆)

  NMT按我們的預(yù)期報(bào)告堆分配：

  Java Heap (reserved=307200KB, committed=307200KB)
          (mmap: reserved=307200KB, committed=307200KB)

  300 MB的保留和已提交內(nèi)存，與我們的堆大小設(shè)置相匹配。

  3.4. Metaspace（元空間）

  這是NMT關(guān)于加載類的元數(shù)據(jù)的報(bào)告：

  Class (reserved=1091407KB, committed=45815KB)
      (classes #6566)
      (malloc=10063KB #8519) 
      (mmap: reserved=1081344KB, committed=35752KB)

  幾乎保留了1 GB，45 MB保留加載6566個(gè)類。

  3.5. Thread(線程)

  這是關(guān)于線程分配的NMT報(bào)告：

  Thread (reserved=37018KB, committed=37018KB)
       (thread #37)
       (stack: reserved=36864KB, committed=36864KB)
       (malloc=112KB #190) 
       (arena=42KB #72)

  總共有36 MB的內(nèi)存被分配給37個(gè)線程的堆棧 - 每個(gè)堆棧大約1 MB。 JVM在創(chuàng)建時(shí)將內(nèi)存分配給線程，因此保留和提交的分配是相等的。

  3.6. Code Cache(代碼緩沖區(qū))

  讓我們看看NMT對(duì)JIT生成和緩存的匯編指令的報(bào)告：

  Code (reserved=251549KB, committed=14169KB)
     (malloc=1949KB #3424) 
     (mmap: reserved=249600KB, committed=12220KB)

  目前，正在緩存大約13 MB的代碼，這個(gè)數(shù)量可能會(huì)達(dá)到245 MB。

  3.7. GC

  以下是有關(guān)G1 GC內(nèi)存使用情況的NMT報(bào)告：

  GC (reserved=61771KB, committed=61771KB)
   (malloc=17603KB #4501) 
   (mmap: reserved=44168KB, committed=44168KB)

  我們可以看到，保留和已提交都接近60 MB，致力于幫助G1。

  讓我們來(lái)看看更簡(jiǎn)單的GC的內(nèi)存使用情況，比如Serial GC：

  $ java -XX:NativeMemoryTracking=summary -Xms300m -Xmx300m -XX:+UseSerialGC -jar app.jar

  Serial GC 幾乎使用不到1 MB：

  GC (reserved=1034KB, committed=1034KB)
   (malloc=26KB #158) 
   (mmap: reserved=1008KB, committed=1008KB)

  顯然，我們不能僅僅因?yàn)槠鋬?nèi)存使用而選擇GC算法，因?yàn)榇蠫C的暫停回收本質(zhì)可能會(huì)導(dǎo)致性能下降。但是，還有幾個(gè)GC可供選擇，它們各自平衡內(nèi)存和性能。

  3.8. Symbol(符號(hào))

  以下是有關(guān)符號(hào)分配的NMT報(bào)告，例如字符串表和常量池：

  Symbol (reserved=10148KB, committed=10148KB)
       (malloc=7295KB #66194) 
       (arena=2853KB #1)

  將近10 MB分配給符號(hào)。

  3.9. 隨著時(shí)間的推移的NMT

  NMT允許我們跟蹤內(nèi)存分配如何隨時(shí)間變化。首先，我們應(yīng)該將應(yīng)用程序的當(dāng)前狀態(tài)標(biāo)記為基線：

  $ jcmd <pid> VM.native_memory baseline
  Baseline succeeded

  然后，過(guò)了一會(huì)兒，我們可以將當(dāng)前的內(nèi)存使用情況與該基線（baseline）進(jìn)行比較：

  $ jcmd <pid> VM.native_memory summary.diff

  NMT使用+和 - 符號(hào)將告訴我們?cè)诖似陂g內(nèi)存使用情況如何變化：

  
  Total: reserved=1771487KB +3373KB, committed=491491KB +6873KB

• Java Heap (reserved=307200KB, committed=307200KB)
  (mmap: reserved=307200KB, committed=307200KB)

• Class (reserved=1084300KB +2103KB, committed=39356KB +2871KB)
  // Truncated

  
  
  保留和提交的總內(nèi)存分別增加了3 MB和6 MB?？梢院苋菀椎匕l(fā)現(xiàn)內(nèi)存分配的其他波動(dòng)。
  
  ### 3.10. 詳細(xì)的NMT
  
  NMT可以提供非常詳細(xì)的有關(guān)整個(gè)存儲(chǔ)空間映射的信息。要啟用此詳細(xì)報(bào)告，我們應(yīng)使用 `-XX：NativeMemoryTracking =detail` 信息調(diào)整標(biāo)志。
  
  ## 4. 結(jié)束語(yǔ)
  
  在本文中，我們列舉了JVM中本機(jī)內(nèi)存分配的不同使用者。然后，我們學(xué)習(xí)了如何檢查正在運(yùn)行的應(yīng)用程序以監(jiān)視其本機(jī)分配。借助以上這些，我們可以更有效地調(diào)整應(yīng)用程序以及運(yùn)行時(shí)環(huán)境的大小。
  
  > 原文：<https://www.baeldung.com/native-memory-tracking-in-jvm>
  >
  > 作者：[Ali Dehghani](https://www.baeldung.com/author/ali-dehghani/)
  >
  > 譯者：Emma