Java sendFile 底层实现

Java sendFile 底层实现

前言

Java send file api 是 transferTo 方法和 transferFrom 方法。

注意:send file 是一个从磁盘到网卡驱动的 IO 优化。反过来,网卡到磁盘,是没有这个 IO 优化的。也就是说 transferFrom 方法并没有这种福利。

本文将稍稍深入,看看 Java 如何实现,注意,本文代码版本为 openjdk-8u40-src-b25-10_feb_2015

transferFrom 解析

那么 transferFrom 底层是什么呢?简单说,就是使用了 MMAP 和 堆外内存而已。

image

上面的 transferFrom 方法代码中:

如果是普通 FileChannel 的话,就走 mmap,否则,走堆外内存,例如我们本次使用的 SocketChannelImpl。

transferFrom by mmap 细节:
image

简单来讲,在一个循环中,每次就是将 源文件根据 position 映射为一个 mmap,最大 8M,逐次的将数据写入的目标文件中。

transferFrom by 堆外内存细节:
image

从上面的代码可知,

如果我们使用的是 SocketChannelImpl ,就会走堆外内存,也是在一个循环里进行写入,每次最大 8k。用完尽量进行回收,不是释放。

其中,获取堆外内存的方法:

image

这个 bufferCache 是一个 ThreadLocal, 如下图所示 ,线程安全。类 netty 内存设计。

image

注意 ,这个 bufferCache 是 sun 写的一个简单版本的 基于直接内存的 Cache,是一个简单的内存池实现。内部是个数组,默认大小 16。get 方法的 key 是 size,即,如果数组中,有 capacity 超过 size ,就返回这个 buffer。

16 的来源是 JVM 底层实现,具体位置:IOUtil.c 140 line。

image

现在,假设这个 cache 有16 个槽位,内部现在有 14 个 ByteBuffer,此时 count 是 14。

image

start 指针指向头部,执行 get 方法,此时我们从 start 开始进行遍历,找到了下标位于 i 的元素,因为他的 capacity 比给定的 size 大。我们需要拿出这个元素。

image

此时 count 需要减去1,变成 13,同时,将头部的 start 元素移动到刚刚空出的位置。

注意,同时我们还需要将 start 指针放置于头部位置:

image

执行 start = (start + 1) % 16, 下次再次get 的时候,还是从头部开始。为什么这么做?为了避免无谓的遍历,当遇到空元素时,就直接 return 就好了。

具体参见代码:

ByteBuffer bb = buffers[i]; 
if (bb == null)// 避免无谓循环
    break;

当用完这个 ByteBuf 之后,就需要进行归还————如果 cache 里还有空余空间,即 count < 16。

如何归还?

有个 Util.releaseTemporaryDirectBuffer(bb)方法, 该方法用于归还内存,注意:如果内存池满了,就调用 free 方法进行内存释放。

最终调用 offerFirstTemporaryDirectBuffer 方法。

image

如果添加进缓存池失败,就 free,添加缓存池的逻辑:

image

释放逻辑,简单来说,就是调用 unsafe 的 freeMemory 方法

image

限于篇幅,下次再说,还涉及到一些虚引用的内容。

transferFrom 方法小结

  1. 如果是源是 FileChannelImpl 类型, 就走 mmap ,循环映射 8MB 刷进磁盘。
  2. 如果源是 SocketChannelImpl 类型,就走堆外内存。简单来说,就是循环放进堆外内存,每次 8kb 刷进磁盘。注意:关于这个堆外内存,是用到了缓存池子的(堆外内存池化是常用优化手段),这个池子是个数组,长度是 16,使用 ThreadLocal 提升性能,每次获取,只要目标数组比池子中的 ByteBuffer 的 capacity 小即可使用,用完就还,如果满了,就调用 unsafe 释放。

transferTo 解析

transferTo 方法很有意思,先简单说下结论:

  1. 如果 OS 支持 send file(windows 不支持),就执行 system call。
  2. 如果 OS 不支持,就走 mmap。
  3. 如果 mmap 失败,就走 堆外内存。
image

代码如上。

注意:如果内核无法执行,返回 -2。在 jvm 代码中看到,apple ,linux,solaris, 还有 IBM 的 AIX 都支持 send file。

image

以上代码位置:FileChannelImpl.c 156 line。

如何使用 mmap 写进网卡?和 transferFrom 类似,每次最大映射 8Mb 内存,刷进网卡。每次用完之后 clean。

private static void unmap(MappedByteBuffer bb) {
  Cleaner cl = ((DirectBuffer)bb).cleaner();
  if (cl != null)
    cl.clean();
}     

如何使用直接内存?也和 transferFrom 类似,每次最大使用 8kb,循环刷进网卡。这里就补贴代码了。

总结

看了 send file 的 Java 层面实现,这里总结一下,只有 transferTo 用到了 send file,而且还是有条件的,具体,本文第二部分已经给出。

而 transferFrom 方法则是很普通的使用 mmap 或者 堆外内存,似乎我们有可以自己实现,反而性能可能会更好,例如我们使用更大的缓存,而不必循环多次,我们可以使用更大的 mmap 映射,而不是 8Mb,每次都需要 clean 再重新 mapping。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,456评论 5 477
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,370评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,337评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,583评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,596评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,572评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,936评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,595评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,850评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,601评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,685评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,371评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,951评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,934评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,167评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 43,636评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,411评论 2 342

推荐阅读更多精彩内容