GC

目录

GC 分类与性能指标

GC 分类

**线程数(垃圾回收的线程)**

  • 串行垃圾回收器:在同一段时间内只允许一个 CPU 用于执行垃圾回收操作,此时工作线程被暂停,直至垃圾收集工作结束
    • 使用场景:单 CPU 处理器或者较小的应用内存等硬件平台不是特别优越的场合,串行回收器的性能表现可以超过并行回收器和并发回收器。串行回收默认被应用在客户端的 Client 模式下的 JVM 中
    • 在并发能力较强的 CPU 上,并行回收器产生的停顿时间要短于串行回收器。
  • 并行垃圾回收器:多运用与多个 CPU 同时执行垃圾回收,提升了应用的吞吐量

**工作模式**

  • 独占式垃圾回收器:独占式垃圾回收器(Stop-the-world)一旦运行,就停止应用程序中所有的用户线程,直至垃圾收集工作结束
  • 并发式垃圾回收器:并发式垃圾回收器与应用程序线程交替工作,以尽可能减少应用程序的停顿时间。

**碎片处理方式**

  • 压缩式垃圾回收器
    • 压缩式垃圾回收器会在垃圾回收完成后,对存活对象进行压缩整理,消除回收后的内存碎片。
    • 再分配对象空间时使用:指针碰撞
  • 非压缩式垃圾回收器
    • 非压缩式垃圾回收器对内存不进行压缩整理。
    • 再分配对象空间时使用:空闲列表

**工作的内存区间**

  • 年轻代垃圾回收器
  • 老年代垃圾回收器

性能指标

  • 吞吐量:运行用户代码的时间占总运行时间的比例
    • 总运行时间 = 程序的运行时间 + 内存回收的时间
  • 垃圾收集开销:吞吐量的补数,垃圾收集所用时间占总运行时间的比例。
  • **暂停时间:执行垃圾收集时,程序的工作线程被暂停的时间。**
  • 收集频率:相对于应用程序的执行,收集操作发生的频率。
  • 内存占用:Java 堆区所占的内存大小
  • 快速:一个对象从诞生到被回收所经历的时间。

内存占用随着硬件的提升,内存越来越大,垃圾回收不需要频繁执行。内存增加吞吐量也随之增加,最难优化的也是最重要的的指标就成了:暂停时间。

以上指标重点关注

  • 暂停时间
  • 吞吐量

吞吐量(throughput) VS 暂停时间

$吞吐量 = \frac{运行用户代码时间}{运行用户代码时间 \+ GC 时间}$

吞吐量优先

,意味着在单位时间内,STW 的时间最短。

低延迟优先

,意味着每次 GC 的 STW 的时间最短。

  • 吞吐量越高,运用程序运行越快。
  • 低暂停时间(低延迟)越好,用户体验越好。200ms 的暂停可能打断中断用户体验。具有低延迟是非常重要的,提别是对于一个交互式应用程序。
  • ”高吞吐量“和”低延迟“ 是一对相互竞争的目标。(就像算法中:时间复杂度和空间复杂度一样)。
    • 如果选择以吞吐量优先,那么必然需要降低内存回收的执行效率 ,但是这样会导致一次 GC 需要更长的暂停时间来执行内存回收。
    • 相反,如果选择以低延迟优先为原则,那么为了降低每次执行内存回收的暂停时间,也只能频繁地执行内存回收,但这又引起年轻代内存的缩减和导致程序吞吐量的下降。

G1 垃圾回收器的标准:在最大吞吐量优先的情况下,降低停顿时间

不同的垃圾回收器概述

垃圾收集器发展史

有了虚拟机,就一定需要收集垃圾的机制,这就是 Garbage Collection,对应的产品就是我们称为:Garbage Collector。

  • 1999 年随着 JDK 1.3.1 一起来的是串行方式的 Serial GC,它是第一款 GC。ParNew 垃圾收集器时 Serial 收集器的多线程版本。
  • 2002 年 2 月 26 日,Parallel GC 和 Concurrent Mark Sweep GC 跟随 JDK1.4.2 一起发布
  • Parallel GC 在 JDK6 之后成为 HotSpot 默认 GC
  • 2012 年在 JDK 1.7 版本中,引入 G1
  • 2017 年在 JDK9 中 G1 变成默认的垃圾收集器,以替换 CMS。
  • 2018 年 3 月,JDK10 中 G1 垃圾收集器的并行完整垃圾回收,实现并行来完善最坏情况下的延迟。
  • 2018 年 9 月,JDK11 发布。引入 Epsilon 垃圾回收器,又被称为 ”No-Op(无操作)“回收器。同时引入 ZGC:可伸缩的低延迟垃圾回收器(Experimental)
  • 2019 年 3 月,JDK12 发布。增强 G1,自动返回未用堆内存给操作系统。同时,引入 Shenandoah GC:低停顿时间的 GC(Experimental)
  • 2019 年 9 月,JDK13 发布。增加 ZGC,自动返回未用堆内存给操作系统。
  • 2020 年 3 月,JDK14 发布。删除 CMS 垃圾回收器。扩展 ZGC 在 macOS 和 Windows 上的应用。

在上述发展历史中提到:7 款经典垃圾收集器

  • 串行回收器:Serial、Serial Old
  • 并行回收器:ParNew、Parallel Scavenge、Parallel Old
  • 并发回收器:CMS、G1

7 款经典垃圾收集器与分代之间的关系

  • 新生代收集器:Serial、ParNew、Parallel Scavenge
  • 老年代收集器:Serial Old、Parallel Old、CSM
  • 整堆收集器:G1

7 款经典垃圾收集器直接的组合

  • JDK 版本小于 8,下图中所有的线都是实线。
  • CMS GC 的兜底方案是 Serial Old GC。CMS GC 不能在老年代空间满时才回收,CMS GC 回收线程与用户线程同时进行,有可能导致垃圾回收失败,此时需要使用 Serial Old GC 进行兜底。
  • 在 JDK 8 中取消类两根红色虚线的组合,在 JDK 9 中彻底将两根红色虚线删除。
  • 在 JDK 14 中弃用了蓝色虚线。
  • CMS GC 在 JDK 14 中被删除了。
  • Parallel Scavenge GC 之所以不能跟 CMS GC 搭配,是因为 Parallel 与 CMS 框架不兼容。
  • Parallel Scavenge GC 与 ParNew GC 性能差不多。

  • -XX:+PrintCommandLineFlags:查看命令行相关参数(包含使用的垃圾收集器)
  • 使用命令行指令:jinfo -flag 相关垃圾回收器参数 进程ID

Serial 回收器:串行回收

  • Serial 收集器是最基本、最悠久的垃圾收集器。
  • Serial 收集器作为 HotSpot 中 Client 模式下的默认新生代垃圾收集器。
  • Serial 收集器采用复制算法(新生代)、串行回收和 ”Stop-the-world“ 机制的方式执行内存回收

  • Serial Old 收集器采用标记-压缩算法、串行回收和 ”Stop-the-world“ 机制的方式执行内存回收

    • 运行在 Client 模式下,Serial Old 默认的老年代垃圾回收器
    • 运行在 Server 模式下
      • Serial Old 与新生代的 Parallel Scavenge 配合使用
      • Serial Old 作为老年代 CMS 收集器的兜底方案

Serial 收集器是一个单线程的收集器,”单线程“的意义:它只会使用一个 CPU 或者一个收集线程去完成垃圾收集工作。在垃圾收集时,必须暂停其他所有的工作线程,直到它收集结束(STW)。

Serial 收集器优势:简单而高效(与其他收集器在单线程比)。在单个 CPU 环境中,Serial 收集器由于没有线程交互的开销,专心做垃圾收集,从而获得最好的效率。

使用场景:在用户的桌面应用场景中,可用的内存一般不大(几十MB至一两百MB),可以在较短时间内完成垃圾收集,只要不频繁发生 GC,使用串行回收器也是可以接受的。一般在 Java Web 应用程序中不会采用串行垃圾收集器。

使用 -XX:+UseSerialGC 参数指定年轻代和老年代使用串行收集器。

ParNew 回收器:并行回收

ParNew 收集是 Serial 收集器的多线程版本。采用复制算法、并行回收和 ”Stop-the-world“ 机制

  • Par 是 Parallel 的缩写
  • New:只能处理新生代

  • 对于新生代,回收次数频繁,使用并行方式更高效
  • 对于老年代,回收次数少,使用串行方式节省资源 (CPU 并行需要切换线程,串行可以省去切换线程资源)

  • 使用 -XX:+UseParNewGC 参数指定年轻代使用ParNew 收集器执行内存回收任务。
  • 使用 -XX:ParallelGCThreads 限制线程数量,默认开启和 CPU 数据相同的线程数。

Parallel 回收器:吞吐量优先

Parallel Scavenge 收集器采用了复制算法、并行回收和 ”Stop-the-world“ 机制

Parallel Scavenge 和 ParNew 收集器不同,Parallel Scavenge 收集器的目标是达到一个**可控制吞吐量(Throughput)**,它也被称为吞吐量优先的垃圾收集器。Parallel Scavenge 和 ParNew 的底层实现差别很大。

使用场景:高吞吐量则可以高效率地利用 CPU 时间,尽快完成程序的运算任务,主要适合在后台运算而不需要太多交互的任务。例如:批处理、订单处理、工资支付、科学计算等

在 JDK1.6 时提供了 Parallel Old 用于老年代的垃圾回收。Parallel Old 替换了 Serial Old。新生代使用 Parallel Scavenge 说明服务器的 CPU 时多核的,那么老年代也要使用并行回收。

Parallel Old 收集器采用标记-压缩算法、并行回收和 ”Stop-the-world“ 机制

在吞吐量优先的场景中:Parallel 收集器和 Parallel Old 收集器的组合,在 Server 模式下的内存回收性能很不错。

Java 8 中,默认使用此垃圾收集器。

Parallel 收集器参数配置

  • -XX:+UseParallelGC

    :指定年轻代使用 Parallel 并行收集器

  • -XX:+UseParallelOldGC

    :指定老年代使用 Parallel Old 并行收集器

    • UseParallelGC 和 UseParallelOldGC 一个开启,另一个也自动开启(相互激活)
  • -XX:ParallelGCThreads

    :设置年轻代并行收集器的线程数。最好与 CPU 数量相等。

    • 默认情况:当 CPU 数量小于 8 个时,ParallelGCThreads 的值等于 CPU 数量
    • 当 CPU 数量大于 8 个,$ ParallelGCThreads = \frac{3+5*CPU_Count}{8} $
  • -XX:MaxGCPauseMills

    :设置垃圾收集器最大停顿时间(即 STW 的时间)单位毫秒

    • 为了尽可能地把停顿时间控制在 MaxGCPauseMills 以内,收集器在工作时会调整 Java 堆大小或者其他参数
    • MaxGCPauseMills 值越大单次GC 的时间范围越大,延迟可能增加,整体吞吐量也增加。
    • **该参数慎用**
  • -XX:GCTimeRatio

    :垃圾收集时间占总时间的比例(用于衡量吞吐量的大小)=$\frac{1}{N+1}$

    • 取值范围(0,100),默认值:99,也就说垃圾回收时间不超过 1%。
    • GCTimeRatio 的值越大垃圾收集时间占总时间的比例越小,吞吐量越大。
    • 控制吞吐量
  • -XX:+UseAdaptiveSizePolicy

    :设置收集器是否具有自适应调节策略

    • 在这种模式下,年轻代的大小、Eden 和 Survivor 的比例、晋升老年代的对象年龄参数会被自动调整,已达到在堆大小、吞吐量和停顿时间之间的平衡点。

CMS 回收器:低延迟

在 JDK 1.5 时期,HotSpot 推出了一款在强交互应用中几乎认为有划时代意义的垃圾收集器:CMS(Concurrent-Mark_Sweep)收集器,这款收集器时 HotSpot 第一款真正意义上的并发收集器,它第一次实现了让垃圾收集器与用户线程同时工作。

CMS 收集器的关注点是:尽可能缩短垃圾收集时用户线程的停顿时间。停顿时间越短(低延迟)就越适合与用户交互的程序,良好的响应速度能提升用户体验。

CMS 收集器采用了标记-清除算法、并行回收和 ”Stop-the-world“ 机制

CMS 的工作原理

  • 初始标记(Initial-Mark)阶段:这个阶段是 “Stop-the-World”。这个阶段的主要任务:仅仅标记出 GC Roots 能直接关联到的对象。一旦标记完成后,就会恢复之前被暂停的所有应用线程。由于直接关联对象比较少,所以这里的速度非常快。确定垃圾回收需要扫描对象的根节点。
  • 并发标记(Concurrent-Mark)阶段:从 GC Roots 的直接关联对象开始遍历整个对象图的过程,这个过程耗时较长但是不需要停顿用户线程,可以与垃圾收集线程一起并发运行。
  • 重新标记(Remark)阶段:由于在并发标记阶段中,程序的工作线程会和垃圾收集线程同时运行或者交叉运行,因此为了修正并发标记期间,因用户程序继续运行而导致标记产生变动的那一部分对象的标记记录,这个阶段的停顿时间通常会比初始标记阶段稍长一些,但也远比并发标记阶段的时间短。
  • 并发清除(Concurrent-Sweep)阶段:此阶段清理删除掉标记阶段判断为已经死亡的对象,释放内存空间。由于不需要移动存活对象,所以这个阶段也是可以与用户线程同时并发的。(为了此阶段能与用户线程并发执行,因而不能使用标记-压缩算法,标记-压缩算法改变了对象的内存地址,会导致用户线程执行异常。)

原始快照和增量更新

初始标记阶段形成一个快照,在并发标记阶段使用这个快照查找所有可达对象,由于此阶段是并发执行,用户线程会产生新的对象,这些对象可能不被标记为可达对象,如果不进行重新标记,这新生成的对象将被清除。所以需要在重新标记阶段将这部分对象补充标记为可达对象。

在并发标记阶段已经标记为可达对象,此时并发的用户线程产生的新垃圾(可达对象变为不可达对象),这部分垃圾无法在并发清理进行清理,变成为浮动垃圾。

在重新标记阶段 CMS 只监控了对象的新增,不监控对象的删除。宁可浪费,不可错杀。

尽管 CMS 收集器采用的是并发回收(非独占式),但是在其初始化标记和重新标记阶段中仍然需要执行 “Stop-the-World” 机制暂停程序中的工作线程,不过暂停时间不会太长。可以说目前所有的垃圾收集器都做不到完全不需要 “Stop-the-world”,只是尽可能地缩短暂停时间。

由于最耗时的并发标记和并发清除阶段不需要暂停工作,所以整体的回收是低停顿的。

由于在垃圾收集阶段用户线程并没有中断,所以在 CMS 回收过程中,还应该确保用户线程有足够的内存可用。因此,CMS 收集器不能像其他收集器那样等到老年代几乎完全被填满了再进行收集,而是当堆内存使用率达到某一阈值时,便开始进行回收,以确保应用程序在 CMS 工作过程中依然有足够的空间支持应用程序运行。要是 CMS 运行失败,这是虚拟机将启动兜底方案:临时启用 Serial Old 收集器来重新进行老年代的垃圾收集,这样停顿时间就很长了。Serial Old 是串行的标记-压缩算法(对内存进行碎片整理)。

CMS 的优点

  • 并发收集
  • 低延迟

CMS 的弊端

  • 由于使用标记-清除算法导致会产生内存碎片,用户线程可用的空间不足。在无法分配大对象的情况下,不得不提前触发 Full GC。
  • CMS 收集器对 CPU 资源非常敏感。

    在并发阶段,它虽然不会导致用户停顿,但是会因为占用了一部分线程而导致应用程序变慢,总吞吐量会降低。

  • CSM 收集器无法处理浮动垃圾。

    可能出现“Concurrent Mode Failure” 失败而导致另一次 Full GC 的产生。在并发标记阶段由于程序的工作线程和垃圾收集线程时同时运行或者交叉运行的,那么在并发标记阶段如果产生新的垃圾对象,CMS 将无法对这些垃圾对象进行标记,最终会导致这些新产生的垃圾对象没有被及时回收,从而只能在下一次执行 GC 时释放这些之前未被收回的内存空间。

CMS 收集器可以设置的参数

  • -XX:+UseConcMarkSweepGC

    :指定使用 CMS,收集器执行内存回收任务。

    • 开启该参数后会自动将 -XX:+UseParNewGC 打开。即ParNew(Young 区用)+ CMS(Old 区用)+ Serial Old 的组合。
  • -XX:CMSlnitiatingOccupanyFraction

    :设置堆内存使用率的阈值,一旦达到该阈值,便开始进行回收。

    • JDK 5以及以前的版本的默认值为 68,即当老年代的空间使用率达到 68% 时,会执行一次 CMS 回收。JDK 6 及以上版本默认值为 92%。
    • 如果内存增长缓慢,则可以设置一个稍大的值,大的阈值可以有效降低 CMS 的触发频率,减少老年代回收的次数可以比较明显地改善引用程序性能。反之,如果应用程序内存使用率增长很快,则应该降低这个阈值,以避免频繁触发老年代串行收集器。因此通过该选项便可以有效降低 Full GC 的执行次数。
  • -XX:+UseCMSCompactAtFullCollection

    :用于指定在执行完 Full GC 后对内存空间进行压缩整理,以此避免内存碎片产生。不过由于内存压缩整理过程无法执行,所带来的问题就是停顿时间变得更长。

  • -XX:CMSFullGCBeforeCompaction

    :设置在执行多少次 Full GC 后对内存空间进行压缩整理。

    • UseCMSCompactAtFullCollection 和 CMSFullGCBeforeCompaction 配合使用
  • -XX:ParallelCMSThreads

    :设置 CMS 线程数量

    • CMS 默认启动的线程数是:$\frac{ParallelGCThreads + 3}{4}$,ParallelGCThreads 的值默认是 CPU 个数。当 CPU 资源比较紧张是,受到 CMS 收集器线程的影响,应用程序的性能在垃圾回收阶段可能会非常糟糕。

小结

  • 如果想要最小化地使用内存和并行开销:请选 Serial GC
  • 如果想要最大化应用程序的吞吐量:请选 Parallel GC
  • 如果想要最小化 GC 的中断或者停顿时间:强选 CMS GC

在 JDK 9 中:CMS 被标记为 Deprecate 了。CMS 被干掉的因为 CMS 的弊端,特别是回触发串行 Serial 收集器。

在 JDK14 中:CMS 被删除了。

G1 回收器:区域化分代式

G1 设定的目标是在延迟可控的情况下获得尽可能高的吞吐量,所以才担当器 “全功能收集器” 的重任与期望。

为什么名字叫做 Garbage First(G1)呢?

  • 因为 G1 是一个并行回收器,它把堆内存分割为很多不相关的区域(Region)(物理上不连续的)。使用不同的 Region 来表示 Eden、幸存者0区、幸存者1区、老年代等。
  • G1 GC 有计划地避免在整个 Java 堆中进行全区域的垃圾收集。G1 跟踪各个 Region 里面的垃圾的价值大小(回收所获得的空间大小以及回收所需时间的经验值),在后台维护一个优先级列表,每次根据允许的收集世间,优先回收价值最大的 Region
  • 由于这种方式的侧重点在于回收垃圾最大量的区间(Region),所以我们给 G1 取一个名字:垃圾优先(Garbage First)

G1 是一款面向服务端应用的垃圾收集器,主要针对配备 多核 CPU 及大容量内存的机器,高概率满足 GC 停顿时间的同时,还兼具高吞吐量的性能特征。

在 JDK 1.7 版本中正式启用 G1,在 JDK 9 以后是默认垃圾收集器。

G1 回收器的特点

优点

**并行与并发**
  • 并行性:G1 在回收期间,可以有多个 GC 线程同时工作,有效利用多核计算能力。此时用户线程 STW。
  • 并发性:G1 拥有与应用程序交替执行的能力,部分工作可以和应用程序同时执行,因此,一般来说,不会再整个回收阶段发生完全阻塞应用程序的情况。
**分代收集**
  • 从分代上看,G1 依然属于分代型垃圾回收器,它会区分年轻代和老年代,年轻代依然有 Eden 区和 Survivor 区。但从堆的结构上看,它不要求整个 Eden 区、年轻代、老年代都是连续的,也不再坚持固定大小和固定数量。
  • 堆空间分为若干个区域(Region),这些区域中包含了逻辑上的年轻代和老年代
  • 和之前的各类回收器不同,它同时兼顾年轻代和老年代
**空间整合**
  • CMS:“标记-清除” 算法会产生内存碎片,在若干次 GC 后,进行一次碎片整理。
  • G1 将内存划分为一个个的 region。内存的回收是以 region 作为基本单位的。Region 之间是复制算法,但整体上实际可看作是标记-压缩(Mark-Compact)算法,这两种算法都可以避免内存碎片。这种特性有利于程序长时间运行,分配大对象时不会因为无法找打连续内存空间而提前触发一次 Full GC,尤其是当 Java 堆非常大的时候,G1 的优势更加明显。
**可预测的停顿时间模型**

(即:软实时 soft real-time)

这是 G1 相对于 CMS 的另一大优势,G1 除了追求低停顿外,还能建立可预测的停顿时间模型,能让使用者明确指定在一个长度为 M 毫秒的时间片段内,消耗在垃圾收集上的时间不得超过 N 毫秒。

  • 由于分区的原因,G1 可以只选取部分区域进行垃圾回收,这样缩小的回收的范围,因此对于全局停顿情况的发生也能得到较好的控制。
  • G1 跟踪各个 Region 里面的垃圾堆积的价值大小(回收所获得的空间大小以及回收所需时间的经验值),在后台维护一个优先级列表,每次根据允许的收集时间,优先回收价值最大的 Region。保证了 G1 收集器在有限的时间内可以获取尽可能高的收集效率。
  • 相比于 CMS GC,G1 未必能做到 CMS 在最好情况下的延时停顿,但是最差情况要好很多。

缺点

相较于 CMS,G1 还不具备全方位、压倒性优势。比如在用户程序运行过程中,G1 无论是为了垃圾收集产生的内存占用(Footprint)还是程序运行时的额外执行负载(Overload)都要比 CMS 要高。

从经验上来说,在小内存应用上 CMS 的表现大概率会优于 G1,而 G1 在大内存引用上则更具优势。平衡点在 6-8GB 之间。

参数设置

  • **-XX:+UseG1GC**

    :使用 G1 收集器执行垃圾回收任务

  • **-XX:G1HeapRegionSize**

    :设置每个 Region 的大小。值是 2 的幂,范围是 1MB 到 32 MB 之间,目标是根据最小的 Java 堆大小划分出约 2048 个区域(Region)。默认是堆内存的 1/2000

  • **-XX:MaxGCPauseMillis**

    :设置期望达到的最大 GC 停顿时间指标(JVM 会尽力实现,但不保证达到),默认值是 200 ms

  • **-XX:ParallelGCThread**

    :设置 STW 时 GC线程数的值。最多设置为 8

  • **-XX:ConcGCThreads**

    :设置并发标记的线程数。将 n 设置为并行垃圾回收线程数(ParallelGCThreads)的 1/4 左右。

  • **-XX:InitiatingHeapOccupancyPercent**

    :设置触发并发 GC 周期的 Java 堆占用率阈值。超过此值,就触发 GC。默认值是 45。

G1 的设计原则就是简化 JVM 性能调优,开发人员只需要三步即可完成调优

  1. 开启 G1 垃圾收集器:-XX:+UseG1GC
  2. 设置堆的最大内存:-XX:G1HeapRegionSize
  3. 设置最大的停顿时间:-XX:MaxGCPauseMillis

G1 中提供了三种垃圾收集模式:在不同的条件下触发。

  1. YoungGC
  2. Mixed GC
  3. Full GC

使用场景

  • 面向服务端应用,针对具有大内存、多处理器的机器(在普通大小的堆里表现并不惊喜)
  • 最主要的应用是最需要低 GC 延迟,并具有大堆的应用程序提供解决方案。
    • 在堆大小约 6GB 或者更大是,可预测的暂停时间可以低于 0.5 秒;(G1 通过每次只清理一部分而不是而不是全部 Region 的增量是清理来保证每次 GC 停顿时间不会过长)
  • 用来替换掉 JDK 1.5 中的 CMS 收集器:在下面的情况时,使用 G1 可能比 CMS 好
    • 超过 50% 的 Java 堆被活动数据占用
    • 对象分类分配率或年代提升频率变化很大
    • GC 停顿时间过长(长于 0.5 ~ 1 秒)
  • HotSpot 垃圾收集器里,除了 G1 以外,其他的垃圾收集器使用内置的 JVM 线程执行 GC 的多线程操作,而 G1 GC 可以采用应用线程承担后台运行的 GC 工作,即当 JVM 的 GC 线程处理速度慢时,系统会调用应用应用程序帮助加速垃圾回收过程。(这里会减低吞吐量)

分区 Region:化整为零

使用 G1 收集器时,它将整个 Java 堆划分成大约 2048 个大小相同的独立的 Region 块,每个 Region 块大小根据堆空间的实际大小而定,整体被控制在 1MB 到 32 MB 之间,且为 2 的 N 次幂,即 1MB、2MB、4MB、8MB、16MB、32MB。可以通过 -XX:G1HeapRegionSize 设定。所有的 Region 大小相同,且在 JVM 生命周期内不会被改变。

虽然还保留有新生代和老年代的概念,但新生代和老年代不再是物理隔离的了,它们都是一个部分 Region(不需要连续)的集合。通过 Region 的动态分配方式实现逻辑上的连续。

如下图

  • 一个 Region 有可能属于:Eden,Survivor 或者 Old/Tenured 内存区域,但是一个 Region 只可能属于一个角色。图中空白的表示未使用的内存空间,一个 Eden 的Region 被垃圾回收后就变为空白,后续有可能被当做 Old 区 Region 使用(Region 被收集后可以变换角色)。
  • G1 垃圾收集器还增加了一种新的内存区域,叫做 Humongous 内存区域,如图中的 H 块。主要用于存储大对象,如果超过 0.5 个 Region ,就放到 H 中。

设置 H 的原因 对于堆中的大对象,默认直接会被分配到老年代,但是如果它是一个短期存在的大对象,就会对垃圾收集器造成负面的影响。为了解决这个问题,G1 划分了一个 Humongous 区,它用来专门存放大对象。如果一个 H 区装不下一个大对象,那么 G1 会寻找连续的 H 区来存储。为了能找到连续的 H 区,有时候不得不启动 Full GC。G1 的大多数行为都把 H 区作为老年代的一部分来看待。

在 Region 内部使用指针碰撞(Bump-the-pointer)

TLAB

在 Region 内部也为每个线程提供独立的空间去访问。

G1 垃圾回收过程

G1 GC 的垃圾回收过程主要包括如下三个环节:

  1. 年轻代(Young GC)
  2. 老年代并发标记过程(Concurrent Marking)
  3. 混合回收(Mixed GC):标记完成后,所有的垃圾对象,不管是新生代还是老年代统统回收。
  4. 兜底回收方案:如果需要,单线程、独占式、高强度的 Full GC 还是继续存在的。它针对 GC 的评估失败提供一种失败保护机制,即强力回收。

顺时针,Young GC –> Young GC + Concurrent Mark –> Mixed GC 顺序,进行垃圾回收。如下图:Young GC 发生在下图中每一个环节中。

应用程序分配内存,当年轻代的 Eden 区用尽时开始年轻代回收过程; G1 的年轻代收集阶段是一个并行独占式收集器。在年轻代回收期,G1 GC 暂停所有应用程序线程,启动多线程执行年轻代回收。然后从年轻代区间移动存活对象到 Survivor Region 或者 老年代 Region,也有可能是两个区间都会涉及。

当堆内存使用达到一定阈值(默认值 45%)时,开始老年代并发标记过程

标记完成马上开始混合回收过程。对于混合回收期,G1 GC 从老年 Region 移动存活对象到空闲 Region,这个空闲 Region 也就成为了老年代的一部分。和年轻代不同,老年代的 G1 回收器和其他 GC 不同,G1 的老年代回收器不需要整个老年代被回收,一次只需要扫描/回收一小部分老年代的 Region 就可以了。同时,这个老年代 Region 是和年轻代一起被回收的。

Remembered Set

背景:

  • 跨代引用

    :一个对象可能被不同 Region(其他年轻代 Region或者老年代 Region )引用的问题,回收新生代也不得不同时扫描老年代。

  • 一个 Region 不可能是孤立的,一个 Region 中的对象可能被其他任意 Region 中对象引用,判断对象存活时,是否需要扫描整个 Java 堆才能保证准确?
  • 在其他的分代收集器,也存在这样的问题(而 G1 更突出)
  • 这样的话会降低 Minor GC 的效率。

解决方法

  • 空间换时间:记忆集。无论 G1 还是其他分代收集器,JVM 都是使用 Remembered Set 来避免全局扫描。
  • 每个 Region 都有一个对应的 Remembered Set
  • 每次 Reference 类型数据写操作时,都会产生一个 Write Barrier 暂时中断操作
  • 然后检查将要写入的引用指向的对象是否和该 Reference 类型数据在不同的 Region(其他收集器:检查老年代对象是否引用了新生代对象)
  • 如果不同,通过 CardTable 把相关引用信息记录到引用指向对象的所在 Region 对应的 Remembered Set 中;
  • 当进行垃圾收集时,在 GC 根节点的枚举范围加入 Remembered Set;就可以保证不进行全部扫描,也不会有遗漏。

G1 回收过程:年轻代 GC

触发 Young GC 的时机:JVM 启动时,G1 先准备好 Eden 区,程序在运行过程中不断创建对象到 Eden 区,当 Eden 空间耗尽时,G1 会启动一次年轻代垃圾回收。

年轻代垃圾回收只会回收 Eden 区和 Survivor 区

YGC 时,首先 G1 停止应用程序执行(Stop-The-World),G1 创建回收集(Collection Set),回收集是指需要被回收的内存分段的集合(需要回收的Region 对应的GC Roots),年轻代回收过程的回收集包含年轻代 Eden 区和 Survivor 区所有的内存分段。

Young GC 过程如下

  • **第一阶段:扫描根**

    (GC Roots)

    • 根是指 static 变量指向的对象,正在执行的方法调用链条上的局部变量等。根引用连同 Rset 记录的外部引用作为扫描存活对象的入口。
  • **第二阶段:更新 Rset**
    • 处理 dirty car queue 中的 card,更新 RSet。此阶段完成后,RSet 可以准确的反映老年代对所在的内存分段中对象的引用。
  • **第三阶段:处理 Rset**
    • 识别被老年代对象指向的 Eden 中的对象,这些被指向的 Eden 中的对象被认为是存活的对象。
  • **第四阶段:复制对象(垃圾回收:复制算法执行)**
    • 此阶段,对象树被遍历,Eden 区内存段中存活的对象会被复制到 Survivor 区中空的内存分段,Survivor 区内存段中存活的对象如果年龄未达到阈值,年龄会加 1,达到阈值会被复制到 Old 区中空的内存分段。如果 Survivor 空间不够,Eden 空间的部分数据会直接晋升到老年代空间
  • **第五阶段:处理引用 **
    • 处理 Soft、Weak、Phantom、Final、JNI Weak 等引用。最终 Eden 空间的数据为空,GC 停止工作,而目标内存中的对象都是连续存储的,没有碎片,所以复制过程可以达到内存整理的效果,减少碎片。

dirty car queue 解释:

对于应用程序的引用赋值语句 object.field = object,JVM 会在之前和之后执行特殊的操作在 dirty card queue 中加入一个对象引用信息 card。在年轻代回收的时候,G1 会对 Dirty Card Queue 中所有的 card 进行处理,以更新 RSet,保证 RSet 实时准确的反映引用关系。

G1 回收过程:并发标记过程

  • **1. 初始标记阶段:**

    标记从根节点(GC Roots)直接可达的对象。这个阶段是 STW 的,并且会触发一次年轻代 GC。

  • **2. 根区域扫描(Root Region Scanning):**

    G1 GC 扫描 Survivor 区直接可达的老年代区域对象,并标记被引用的对象。这一过程必须在 Young GC 之前完成(因为 Young GC 会调整 Survivor 的数据)。

  • **3. 并发标记(Concurrent Marking):**

    在整个堆中进行并发标记(和应用程序并发执行),此过程可能被 Young GC 中断。在并发标记阶段,若发现区域中的所有对象都是垃圾,那这个区域被立即回收。同时,并发标记过程中,会计算每个区域的对象活性(区域存活对象的比例)。

  • **4. 再次标记(Remark):**

    由于应用程序持续进行,需要修正上一次的标记结果。是 STW 的。G1中采用采用了比 CMS 更快的初始快照算法:snapshot-at-the-beginning(SATB)。

  • **5. 独占清理(cleanup,STW):**

    计算各个区域的存活对象和 GC 回收比例,并进行排序,识别可以混合回收的区域。为下阶段做铺垫。是 STW 的。

    • 这个阶段并不会实际上去做垃圾的收集。
  • **6. 并发清理阶段:**

    识别并清理完全空闲的区域。

G1 回收过程:混合回收

当越来越多的对象晋升到老年代 Old Region 时,为了避免内存被耗尽,虚拟机会触发一个混合的垃圾收集器,即 Mixed GC,该算法并不是一个 Old GC,除了回收整个 Young Region,还会回收一部分的 Old Region。这里需要注意:是部分老年代,而不是全部老年代

  • 并发标记结束以后,百分之百为垃圾的老年代 Region 已经被回收了,部分为垃圾的 Region 被计算出来。默认情况下,这些老年代的 Region 会分 8 次(可以通过 XX:G1MixedGCCountTarget 设置)被回收。
  • 混合回收的回收集(Collection Set) 包括八分之一的老年代 Region,Eden 区 Region,Survivor 区 Region。混合回收的算法和年轻代的算法完全一样,只是回收集多了老年代的 Region。
  • 由于老年代中的 Region 默认分 8 次回收,G1 会优先回收垃圾多的 Region。垃圾内存分段比例越高的 Region,越会被先回收。 并且有一个阈值会决定 Region 是否被回收,-XX:G1MixedGCLiveThresholdPercent,默认为 65%,意思是垃圾内 Region 比例要到达 65% 才会被回收。如果垃圾占比太低,意味着存活的对象占比高,在复制的时候会花费更多的时间。
  • 混合回收并不一定要进行 8 次。有一个阈值 -XX:G1HeapWastePercent,默认值为 10%,意思是允许整个堆内存中 10% 的空间被浪费,意味着如果发现可以回收的垃圾占堆内存的比例低于 10%,则不在进行混合回收。因为 GC 会花费很多的时间但是回收到的内存却很少。

G1 回收过程:Full GC

G1 被设计的初衷就是要:避免 Full GC 的出现。

导致 G1 进行 Full GC 的原因:

  1. Evacuation 的时候没有足够的 to-space 来存放晋升的对象。
  2. 并发处理过程完成之前空间耗尽。

G1 回收器优化建议

年轻代大小

  • 避免使用 -Xmn 或 -XX:NewRatio 等相关选项显式设置年轻代大小,因为固定年轻代的大小会覆盖暂停时间目标。

暂停时间目标不要太过严苛

  • G1 GC 的吞吐量目标是 90% 的应用程序时间和 10% 的垃圾回收时间。
  • 评估 G1 GC 的吞吐量时,暂停时间目标不要太严苛。目标太严苛表示你愿意承受更多的垃圾回收次数,会直接影响到吞吐量。

垃圾回收器总结

截止 JDK 1.8 ,一共有 7 款不同的垃圾收集器。每一款不同的垃圾收集器都有不同的特点,需要根据具体的场景选用不同的垃圾收集器。

垃圾收集器 分类 作用位置 使用算法 特点 适用场景
Serial 串行 作用于新生代 复制算法 响应速度优先 适用于单 CPU 环境下的 client 模式
ParNew 并行 作用于新生代 复制算法 响应速度优先 多 CPU 环境 Server 模式下与 CMS 配合使用
Parallel 并行 作用于新生代 复制算法 吞吐量优先 适用于后台运算而不需要太多交互的场景
Serial Old 串行 作用于老生代 标记-压缩算法 响应速度优先 适用于单 CPU 环境下的 Client 模式
Parallel Old 并行 作用于老生代 标记-压缩算法 吞吐量优先 适用于后台运算而不需要太多交互的场景
CMS 并发 作用于老生代 标记-清除算法 响应速度优先 使用于互联网或 B/S 业务
G1 并发、并行 作用于新生代、老生代 标记-压缩算法、复制算法 响应速度优先 面向服务端应用

GC 发展阶段

Serial => Parallel(并行)=> CMS(并发)=> G1 => ZGC

怎么选择垃圾回收器?

Java 垃圾收集器的配置对于 JVM 优化来说是一个重要的选择,选择合适的垃圾收集器可以让 JVM 的性能有一个很大的提升。

怎么选择垃圾收集器?

  1. 优先调整堆的大小,让 JVM 自适应完成。
  2. 如果内存小于 100M,使用串行收集器(Serial)
  3. 如果是单核、单机程序,并且没有停顿时间的要求,串行收集器
  4. 如果是多 CPU、需要高吞吐量、允许停顿时间超过 1秒,选择并行或者 JVM 自己选择
  5. 如果是多 CPU、追求低停顿时间,需快速响应(比如延迟不能超过 1 秒,如互联网应用),使用并发收集器。官方推荐 G1,性能高。现在互联网的项目,基本都是使用 G1

GC 日志分析

内存分配与垃圾回收的参数列表

  • -XX:+PrintGC 

    :输出 GC 日志。类似-verbose:gc

  • -XX:+PrintGCDetails 

    :输出 GC 的详细日志

  • -XX:+PrintGCTimeStamps 

    :输出 GC 的时间戳(以基准时间的形式)

  • -XX:+PrintGCDateStamps

    :输出 GC 的时间戳(以日期的形式,如2023-01-16T14:23:59.234+0800)

  • -XX:+PrintHeapAtGC

    :在进行 GC 的前后打印堆的信息

  • -Xloggc:.../logs/gc.log 

    :日志文件的输出路径

日志格式

[GC (Allocation Failure) [PSYoungGen: 15347K->2528K(17920K)] 15347K->14354K(58880K), 0.0097880 secs] [Times: user=0.02 sys=0.04, real=0.01 secs] [GC (Allocation Failure) [PSYoungGen: 17837K->2528K(17920K)] 29662K->29564K(58880K), 0.0132455 secs] [Times: user=0.03 sys=0.05, real=0.01 secs] [Full GC (Ergonomics) [PSYoungGen: 2528K->0K(17920K)] [ParOldGen: 27036K->29400K(40960K)] 29564K->29400K(58880K), [Metaspace: 3069K->3069K(1056768K)], 0.0094469 secs] [Times: user=0.04 sys=0.00, real=0.01 secs] [Full GC (Ergonomics) [PSYoungGen: 15360K->3400K(17920K)] [ParOldGen: 29400K->40902K(40960K)] 44760K->44303K(58880K), [Metaspace: 3069K->3069K(1056768K)], 0.0124862 secs] [Times: user=0.03 sys=0.03, real=0.01 secs]

  • GC,Full GC:同样是 GC 的类型
  • Allocation Failure:GC 原因
  • PSYoungGen:使用了 Parallel Scavenge 并行垃圾收集器的新生代 GC 前后大小的变化
  • ParOldGen:使用了 Parallel Old 并行垃圾收集器的老年代 GC 前后大小的变化
  • Metaspace:元数据区 GC 前后大小的变化,JDK 1.8 中引入了元数据区以替代永久代
  • xxx secs:指 GC 花费的时间
  • Times:
    • user:指的是垃圾收集器花费的所有 CPU 时间
    • sys:花费在等待系统调用或者系统事件的时间
    • real:GC 从开始到结束的时间,包括其他进程占用时间片的实际时间

Young GC 日志格式

Full GC 日志格式

/**
 * -Xms20M -Xmx20M -Xmn10M -XX:+PrintGCDetails -XX:SurvivorRatio=8 -XX:+UseSerialGC
 */
public class GCLogTest1 {
    private static final int _1MB = 1024 * 1024;

    public static void testAllocation() {
        byte[] allocation1, allocation2, allocation3, allocation4;
        allocation1 = new byte[2 * _1MB];
        allocation2 = new byte[2 * _1MB];
        allocation3 = new byte[2 * _1MB];
        allocation4 = new byte[4 * _1MB];
    }

    public static void main(String[] args) {
        testAllocation();
    }
}

-Xms20M -Xmx20M -Xmn10M 内存分配情况

程序运行结果如下下图:

日志中显示 新生代占用内存空间:新生代可用空间 (9216K) = eden space( 8192K ) + from sapce(1024K)

在伊甸园区占用:9216K * 0.52 = 4792.32K = 4.68MB,这 4MB 空间是 allocation4 对象,不是allocation1 和 allocation2。

在老年代中:10240K * 0.6 = 6144 K = 6 MB,这 6 MB 存放的是:allocation1、allocation2、allocation3

如下图:

  • 当 allocation1,allocation2,allocation3 已经初始化完毕后,存放在伊甸园区。
  • 此时要存放 allocation4,伊甸园区和from 区空间都不够,触发 YoungGC

  • YoungGC 后,allocation1,allocation2,allocation3 晋升到老年代
  • 此时伊甸园区有足够的空间存放 allocation4,因此将 allocation4 存放在伊甸园区。

日志分析

常用的日志分析工具:

  • GCViewer
  • GCEasy
  • GCHisto
  • GCLogViewer
  • Hpjmeter
  • garbagecat

通过:-Xloggc:.../logs/gc.log :日志文件的输出路径

通过:https://gceasy.io/ 上传 gc 文件

分析结果:

垃圾回收器的新发展

ZGC 的目标:在尽可能对吞吐量影响不大的前提下,实现在任意堆内存大小都可以将垃圾回收的时间限制在 10 ms 以内,实现低延迟。

ZGC 收集器是一款基于 Region 内存布局的,(暂时)不设分代的,使用类读屏障、染色指针和内存多重映射等技术来实现可并发的标记-压缩算法的,以低延迟为首要目标的一款垃圾收集器。

ZGC 的工作过程分为四个阶段

  1. 并发标记
  2. 并发预备重分配
  3. 并发重分配
  4. 并发重映射

ZGC 几乎在所有的地方都并发执行,除了初始标记是 STW 的。所以停顿时间几乎就耗费在初始标记上,这部分的实际耗时非常少。

虽然 ZGC 还在实验状态下,没有完成所有特性,但此时性能已经相当亮眼,用“令人震惊、革命性” 来形容,也不为过。

未来将在服务端、大内存、低延迟应用的首选垃圾收集器。

卖出能赚