对于foreachRDD的正确理解，请参考对DStream.foreachRDD的理解在spark streaming的官方文档中也有对fore...
投稿
收录了7篇文章 · 8人关注
-
如何高效的使用foreachRDD
-
Spark Streaming 流式计算实战这篇文章由一次平安夜的微信分享整理而来。在Stuq 做的分享，原文内容。 业务场景 这次分享会比较实战些。具体业务场景描述： 我们每分钟会有几百...
-
揭开Spark Streaming神秘面纱④ - job 的提交与执行
前文揭开Spark Streaming神秘面纱③ - 动态生成 job[https://www.jianshu.com/p/ee84580292...
-
揭开Spark Streaming神秘面纱② - ReceiverTracker 与数据导入Spark Streaming 在数据接收与导入方面需要满足有以下三个特点： 兼容众多输入源，包括HDFS, Flume, Kafka, Twi...
-
揭开Spark Streaming神秘面纱① - DStreamGraph 与 DStream DAG在 Spark Streaming 中，DStreamGraph 是一个非常重要的组件，主要用来： 通过成员 inputStreams 持有 S...
-
【容错篇】Spark Streaming的还原药水——Checkpoint一个 Streaming Application 往往需要7*24不间断的跑，所以需要有抵御意外的能力（比如机器或者系统挂掉，JVM crash...
-
揭开Spark Streaming神秘面纱③ - 动态生成 jobJobScheduler有两个重要成员，一是上文介绍的 ReceiverTracker，负责分发 receivers 及源源不断地接收数据；二是...
专题公告
源码 原理
{var%20f='http://v.t.sina.com.cn/share/share.php?appkey=1881139527',u=z||d.location,p=['&url=',e(u),'&title=',e(t||d.title),'&source=',e(r),'&sourceUrl=',e(l),'&content=',c||'gb2312','&pic=',e(p||'')].join('');function%20a(){if(!window.open([f,p].join(''),'mb',['toolbar=0,status=0,resizable=1,width=440,height=430,left=',(s.width-440)/2,',top=',(s.height-430)/2].join('')))u.href=[f,p].join('');};if(/Firefox/.test(navigator.userAgent))setTimeout(a,0);else%20a();})(screen,document,encodeURIComponent,'','','https://upload.jianshu.io/collections/images/598758/BingWallpaper-2018-01-01.jpg', '推荐专题《spark streaming 》（ 分享自 @简书 ）','https://jianshuapi.com/c/74c085fb4e5c?utm_campaign=maleskine&utm_content=collection&utm_medium=reader_share&utm_source=weibo','页面编码gb2312|utf-8默认gb2312'));){kind=link}