Netty4 中的内存管理

在Netty4中引入了新的内存管理机制极大地提升其性能,本文将对该内在管理机制进行剖析。

这里有篇文章讲述了在推特(Twitter)内部 使用Netty的状况以及Netty4所带来的性能收益。

在分析Netty4的PooledByteBufAllocator之前,我们最好先认识一下jemalloc。 Netty在4.0之前的版本已经尝试过通过优化内存管理的方式来提高性能(如果我没有记错的话),但4.0中的改进则特别 显著。在这个版本中,其内存管理实现主要是参考了jemalloc

jemalloc

jemalloc 是由Jason Evans在FreeBSD项目中引入的,其主旨是为了提升在并发环境下内存的分配效率。说白了就是替代 malloc。malloc之所以没有照顾到并发环境,那是由于在那个时代并发还只在理论,未曾普及。而现在则是多核的天下,连 手机都动则2、4核,甚至于8核了。与jemalloc齐名的还有Google的tcmalloc,其 实现与jemalloc多少也有点相似,这里不做介绍。

jemalloc的理念

我们以买火车票为例,来简单地说明一下jemalloc与malloc的区别。原来的malloc,相当于只有一个售票窗口的售票大厅, 而jemalloc则在同一个售票大厅里面适量地增加的窗口。当然,火车票的总量(即内存大小)是不变的,买票的人相当于线程了。 说起来这也是很自然的事情的。

在这里,一个售票窗口就是相当于一个Arena

Arena则按页(Page)来的管理内存,也就是说,一张车票就相当于一页。(后面就不太适合用火车票的例子了)。

同时,jemalloc还根据所请求的内存大小,对其进行分类。如下图:

Netty4 中的内存管理

默认情况下,Page的大小为4KB。如图,有三类,small、large和huge。small类的内存请求都属于一个内存页之内 (没有半张车票出售:()。另外,在small类里面,又分了三个子类,分别是Tiny、Quantum-Spaced和Sub-page。 这几个概念都在Netty中得到应用。

全文......

上一篇:Terminology: Sandbox


下一篇:JWT(Json web token)简介