阿里云CTO章文嵩:GPU高性能计算是下一个风口

阿里云CTO章文嵩:GPU高性能计算是下一个风口

作者/来源: 新浪、CSDN发布于: 2015-08-27 20:36:51点击数: 463

7月22日首届阿里云分享日×云栖大会北京峰会召开,吸引了海内外2000余名开发者、创业者及生态伙伴参与。

阿里云CTO章文嵩在分享日指出,随着DT时代的到临,高性能数据分析需求开始显现,云上将形成包括高性能计算在内的技术生态。

章文嵩透露,阿里巴巴内部早期上线了33个GPU线上应用,进行着1亿+张级别的图片训练,同时配备了2P FLOPS的GPU计算集群,结果在一周之内就被几乎全部占用,这是阿里云此前没预料到的。而当下在图片识别领域就出现了诸如face++ deepglint senstime linkface cogtu等众多初创公司,因此章文嵩判断,基于深度学习的图像,语音技术应用即将爆发。这些技术的爆发带来一个非常迫切的问题:高性能数据分析。

GPU高性能计算背后的新需求

为了更好阐述这一观点,章文嵩从多方面进行了剖析:

内部:去年阿里集团内部共上线了33个GPU应用,对应的图片训练已经到1亿+张。在阿里云上线2P FLOPS的GPU计算集群(未来规模还将翻番)之后,一周之内就被所有业务部门一抢而光。已经涵盖人脸识别、标签识别、质量控制、商品分类、风格预测、拍照购、OCR、语音识别、图象搜索、反黄等多个方面,为业务创造了巨大价值。

外部,基于深度学习、图形图象识别、语音技术的大规模爆发,业内迅速涌现出如Face++、格灵深瞳、Linkface、知图科技等10+创业公司。

在他看来,神经网络在80年代后期出现过一个低点。2000年前后,从浅层学习到深度学习的演变,将神经网络提高了几个数量级,对计算需求更高。尤其是近几年,2012年谷歌大脑用16000个CPU实现深度学习,为整个业界带来很好的启示。在互联网这富饶的土壤上,语音和图像的技术与应用的成熟,深度学习技术与业务的紧密结合,使得技术的投入和发展进入了良性循环。“我们可以看到,数据和计算成为爆发的基石。比如深度学习模型对数据依赖性非常高。过去解决问题是从模型算法着手,现在更多是获得高质量数据。数据已然决定了整个模型的训练效果,高质量的数据当然需要多多益善。这就带来了一个巨大挑战:获取、保存海量数据,并要大幅降低存储成本。要知道,即使是银行,14天后数据就会清除。另一方面,商业领域计算能力从未过剩。一张图片的特征提取要170G次浮点计算;120万张图片进行一次网络训练,需要318P次浮点运算;一个CPU要算上22天的计算量拿GPU来做,大概是18个小时。”

具体来看:

-数据能力。包括数据获取、数据存储、数据传输、数据加工和数据使用,正如原油、汽油和石油只是提炼品一样,挖掘和提炼能力越高,产出就越高。DT发展的必然阶段,就是从数据分析到高性能数据分析。要实现这一点,需要更高效能、更强大的计算能力。

-计算能力。比如谷歌大脑用了1000台服务器,每台6核,耗电是600KW,500万美金的成本投入。而斯坦福大学人工智能实验室重新做了一遍,只需要3台GPU服务器,耗电只有4KW,3.3万美元的投入。技术演进将带来巨大变革。在参数模型中,包含GPU,众核处理器充当内存,关键计算用Hybrid CPU—FPGA,在加上极致的软件性能优化,效能提升迅猛。“我们在一种模型上的优化,最多可以提升60%,而美国一家技术创业公司同样的优化,只能提升20%。”通过软硬一体的优化,使得物理机+加速器的能力能直接对外部输出,将是云上IaaS的第二种形态。这样的方式下,云上超算能力不会成为瓶颈。

-构建技术生态。企业不仅需要计算,还有更多配套服务。比如数据、信息的高速获取和分发需要极速CDN,数据和信息存储需要对象存储,互联网应用落地需要云服务器、负载均衡、云数据库,大数据分析和高性能数据分析需要大数据处理如ODPS和高性能计算,GPU集群对外输出(今年9月份天池大数据计算,会让参赛选手使用GPU集群)。

章文嵩总结道:“我们相信数据能力+计算能力+技术生态,可以实现用技术拓展商业边界的目标。阿里巴巴联合更多合作伙伴,开放出更多如同人脸识别、深度学习等人工智能新技术,和社会分享,帮助企业实现弯道超车。”

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 202,009评论 5 474
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 84,808评论 2 378
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 148,891评论 0 335
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,283评论 1 272
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,285评论 5 363
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,409评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,809评论 3 393
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,487评论 0 256
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,680评论 1 295
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,499评论 2 318
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,548评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,268评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,815评论 3 304
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,872评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,102评论 1 258
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,683评论 2 348
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,253评论 2 341

推荐阅读更多精彩内容