240 发简信
IP属地:四川
  • Docker Compose 配置文件详解

    先来看一份 docker-compose.yml 文件,不用管这是干嘛的,只是有个格式方便后文解说: 可以看到一份标准配置文件应该包含 version、services、ne...

  • @sf705 我估计是你的scala插件没有正确安装

    spark应用开发-开发工具篇

    概要 目前Spark官方提供Java,Scala,Python三种语言的API。因为Spark是用Scala开发,而Scala本身是基于JVM的语言,所以Scala和Java...

  • 120
    消息队列技术介绍

    一、 消息队列概述 消息队列中间件是分布式系统中重要的组件,主要解决应用耦合、异步消息、流量削锋等问题。实现高性能、高可用、可伸缩和最终一致性架构。是大型分布式系统不可缺少的...

  • spark-rpc部分源码走读

    RPC体系结构 spark1.6中的RPC体系结构大致如下: RpcEnv相当于容器,有host、port已及注册其中的RpcEndpoint,RpcEndpoint有对应的...

  • @yoga_haha 好,争取抽时间整理出来请大家指正

    spark应用开发-开发工具篇

    概要 目前Spark官方提供Java,Scala,Python三种语言的API。因为Spark是用Scala开发,而Scala本身是基于JVM的语言,所以Scala和Java...

  • spark应用开发-streaming&kafka

    之前一段时间通过SparkStreaming+Kafka处理上网日志数据的一些记录,做个备忘。 KafkaUtils.createDirectStream or KafkaU...

  • spark应用开发-日常监控

    运行监控对系统的重要性不言而喻,尤其是分布式环境中,程序运行是否正常,在哪些节点上运行,每个节点处理的数据量是否均匀,每个任务的处理时间是否大致均衡,在流处理程序中每个批次是...

  • spark应用开发-开发工具篇

    概要 目前Spark官方提供Java,Scala,Python三种语言的API。因为Spark是用Scala开发,而Scala本身是基于JVM的语言,所以Scala和Java...

  • 朴素贝叶斯算法

    算法描述 朴素贝叶斯算法是监督学习中分类算法中的一种。需要先通过学习一批分类正确的训练数据集得出模型才能进行分类,算法大致如下: 假设待分类的数据为X,类别集合为Y={Y1....