Tomcat 應(yīng)用中并行流帶來的類加載問題

本文首發(fā)于 vivo互聯(lián)網(wǎng)技術(shù) 微信公眾號?
鏈接：https://mp.weixin.qq.com/s/f-X3n9cvDyU5f5NYH6mhxQ
作者：肖銘軒、王道環(huán)

隨著 Java8 的不斷流行，越來越多的開發(fā)人員使用并行流（parallel）這一特性提升代碼執(zhí)行效率。但是，作者發(fā)現(xiàn)在 Tomcat 容器中使用并行流會出現(xiàn)動態(tài)加載類失敗的情況，通過對比 Tomcat 多個版本的源碼，結(jié)合并行流和 JVM 類加載機制的原理，成功定位到問題來源。本文對這個問題展開分析，并給出解決方案。

一、問題場景

在某應(yīng)用中，服務(wù)啟動時會通過并行流調(diào)用 Dubbo，調(diào)用代碼如下：

Lists.partition(ids, BATCH_QUERY_LIMIT).stream()
     .parallel()
     .map(Req::new)
     .map(client::batchQuery)
     .collect(Collectors.toList());

調(diào)用日志中發(fā)現(xiàn)大量的 WARN 日志com.alibaba.com.caucho.hessian.io.SerializerFactory.getDeserializer Hessian/Burlap:‘XXXXXXX’ is an unknown class in null:java.lang.ClassNotFoundException: XXXXXXX，在使用接口返回結(jié)果的時候拋出錯誤 java.lang.ClassCastException: java.util.HashMap cannot be cast to XXXXXXX。

二、原因分析

1、初步定位

首先根據(jù)錯誤日志可以看到，由于依賴的 Dubbo 服務(wù)返回參數(shù)的實體類沒有找到，導致 Dubbo 返回的數(shù)據(jù)報文在反序列化時無法轉(zhuǎn)換成對應(yīng)的實體，類型強制轉(zhuǎn)化中報了java.lang.ClassCastException。通過對線程堆棧和WARN日志定位到出現(xiàn)問題的類為com.alibaba.com.caucho.hessian.io.SerializerFactory，由于?_loader?為 null 所以無法對類進行加載，相關(guān)代碼如下：

try {
       Class cl = Class.forName(type, false, _loader);
       deserializer = getDeserializer(cl);
   } catch (Exception e) {
       log.warning("Hessian/Burlap: '" + type + "' is an unknown class in " + _loader + ":\n" + e);
    log.log(Level.FINER, e.toString(), e);
   }

接下來繼續(xù)向上定位為什么?_loader?會為?null，SerializerFactory?構(gòu)造方法中對?_loader?進行了初始化，初始化代碼如下，可以看出?_loader?使用的是當前線程的 contextClassLoader。

public SerializerFactory() {
    this(Thread.currentThread().getContextClassLoader());
}

public SerializerFactory(ClassLoader loader) {
    _loader = loader;
}

根據(jù)堆?？吹疆斍熬€程為ForkJoinWorkerThread，F(xiàn)orkJoinWorkerThread是Fork/Join框架內(nèi)的工作線程（Java8 并行流使用的就是Fork/Join）。JDK文檔指出：

The context ClassLoader is provided by the creator of the thread for use by code running in this thread when loading classes and resources. If not set, the default is the ClassLoader context of the parent Thread.

因此當前的線程contextClassLoader應(yīng)該和創(chuàng)建此線程的父線程保持一致才對，不應(yīng)該是null?。?/p>

繼續(xù)看ForkJoinWorkerThread創(chuàng)建的源碼，首先使用ForkJoinWorkerThreadFactory創(chuàng)建一個線程，然后將創(chuàng)建的線程注冊到ForkJoinPool中，線程初始化的邏輯和普通線程并無差別，發(fā)現(xiàn)單獨從JDK自身難以發(fā)現(xiàn)問題，因此將分析轉(zhuǎn)移到Tomcat中。

2、Tomcat升級帶來的問題

取 Tomcat7.0.x 的一些版本做了實驗和對比，發(fā)現(xiàn)7.0.74之前的版本無此問題，但7.0.74之后的版本出現(xiàn)了類似問題，實驗結(jié)果如下表。

至此已經(jīng)將問題定位到了是Tomcat的版本所致，通過源代碼比對，發(fā)現(xiàn)7.0.74版本之后的Tomcat中多了這樣的代碼：

if (forkJoinCommonPoolProtection && IS_JAVA_8_OR_LATER) {
    // Don't override any explicitly set property
    if (System.getProperty(FORK_JOIN_POOL_THREAD_FACTORY_PROPERTY) == null) {
        System.setProperty(FORK_JOIN_POOL_THREAD_FACTORY_PROPERTY,
                "org.apache.catalina.startup.SafeForkJoinWorkerThreadFactory");
    }
}

private static class SafeForkJoinWorkerThread extends ForkJoinWorkerThread {

   protected SafeForkJoinWorkerThread(ForkJoinPool pool) {
       super(pool);
       setContextClassLoader(ForkJoinPool.class.getClassLoader());
   }
}

在 Java8 環(huán)境下，7.0.74 版本之后的 Tomcat 會默認將?SafeForkJoinWorkerThreadFactory?作為 ForkJoinWorkerThread 的創(chuàng)建工廠，同時將該線程的 contextClassLoader 設(shè)置為ForkJoinPool.class.getClassLoader()，F(xiàn)orkJoinPool 是屬于rt.jar包的類，由BootStrap ClassLoader加載，所以對應(yīng)的類加載器為null。至此，_loader為空的問題已經(jīng)清楚，但是Tomcat為什么要多此一舉，將null作為這個 ForkJoinWorkerThread的contextClassLoader呢？

繼續(xù)對比Tomcat的changeLog?http://tomcat.apache.org/tomcat-7.0-doc/changelog.html 發(fā)現(xiàn)Tomcat在此版本修復了由ForkJoinPool引發(fā)的內(nèi)存泄露問題 Bug 60620 - [JRE] Memory leak found in java.util.concurrent.ForkJoinPool，為什么線程的contextClassLoader會引起內(nèi)存泄露呢？

3、contextClassLoader內(nèi)存泄露之謎

在JDK1.2以后，類加載器的雙親委派模型被廣泛引入。它的工作過程是：如果一個類加載器收到了類加載的請求，它首先不會自己去嘗試加載這個類，而是把整個請求委派給父類加載器去完成，每一個層次的類加載器都是如此，因此所有的加載請求最終都應(yīng)該傳送到頂層的啟動類加載器中，只有當父加載器反饋自己無法完成這個加載請求時，子加載器才會嘗試自己去加載，流程如下圖。

然而雙親委派的模型并不能保證應(yīng)用程序加載類的過程，一個典型的例子就是JNDI服務(wù)，這些接口定義在rt.jar并由第三方提供實現(xiàn)，Bootstrap ClassLoader顯然不認識這些代碼。為了解決這個問題，JDK1.2同時引入了線程上下文類加載器（Thread Context ClassLoader）進行類加載，作為雙親委派模型的補充。

回到內(nèi)存泄漏的問題上，設(shè)想一個場景，如果某個線程持有了ClassLoaderA（由ClassLoaderA加載了若干類），當應(yīng)用程序需要對ClassLoaderA以及由ClassLoaderA加載出來的類卸載完成后，線程A仍然持有了ClassLoaderA的引用，然而業(yè)務(wù)方以為這些類以及加載器已經(jīng)卸載干凈，由于類加載器和其加載出的類雙向引用，這就造成了類加載器和其加載出來的類無法垃圾回收，造成內(nèi)存泄露。在并行流中，F(xiàn)orkJoinPool和ForkJoinWorkerThreadFactory默認是靜態(tài)且共享的（JDK官方推薦，創(chuàng)建線程本身是相對重的操作，盡量避免重復創(chuàng)建ForkJoinWorkerThread 造成資源浪費），下圖描繪了發(fā)生內(nèi)存泄露的場景：

因此 Tomcat 默認使用SafeForkJoinWorkerThreadFactory作為ForkJoinWorkerThreadFactory，并將該工廠創(chuàng)建的ForkJoinWorkerThread的contextClassLoader都指定為ForkJoinPool.class.getClassLoader()，而不是JDK默認的繼承父線程的contextClassLoader，進而避免了Tomcat應(yīng)用中由并行流帶來的類加載器內(nèi)存泄露。

三、總結(jié)

在開發(fā)過程中，如果在計算密集型任務(wù)中使用了并行流，請避免在子任務(wù)中動態(tài)加載類；其他業(yè)務(wù)場景請盡量使用線程池，而非并行流?？傊?，我們需要避免在Tomcat應(yīng)用中通過并行流進行自定義類或者第三方類的動態(tài)加載。