240 发简信
IP属地:河南
  • SPARK[RDD之转换函数]

    前面讲到了RDD的分区、RDD的创建,这节将讲解RDD的转换,RDD的转换就是从父RDD生成一个新的RDD,新的RDD分区可能和父RDD一致也可能不再一致。常用的转换函数: ...

  • SPARK[RDD之创建函数]

    RDD的创建大多数情况下是从hdfs文本来的,当然也可以从其他组件接入进来,如kafka、hbase等,后续介绍 创建类型: 1、文本类型没有指定分区个数的,如果是hdfs则...

  • SPARK[RDD之分区函数]

    rdd的计算都是以partiotion为单元的,这些分区的转换函数(见后面的章节)不会直接返回结果。当出现collect,count,toList,print才会真正执行。 ...

  • SPARK[RDD之partitions]

    RDD是容错、并行的数据结构,具备分区的属性,这个分区可以是单机上分区也可以是多机上的分区,对于RDD分区的数量涉及到这个RDD进行并发计算的粒度。每一个分区都会在一个单独的...

  • SPARK[RDD之dependencies]

    Resilient Distributed Datasets [rɪ'zɪlɪənt] 准确翻译为 容错的 并行的 数据结构 而不是弹性分布式数据集合RDD提供了丰富的集合...

  • SPARK[star]

    AMPAlgorithms 算法Machines 机器people 人 spark较mapreduce快100倍的原因:内存数据、调度优化、传输优化、DAG执行引擎。 一...

  • 120
    HBASE[3]建表考虑

    hbase建表在hbase中的表,表大小可以使10亿行和数百万个列,存储量是其他任何radbms无法比拟的,查询更新等待时间并丝毫不比radbms慢,反而会快的很多。当然缺点...

  • MapReduce

    OLTP On-Line Transaction ProcessingOLAP On-Line Analytical Processing在定时任务OLAP中,我们也需要做优...

  • 120
    HDFS

    HDFS是HADOOP的分布式文件系统,它的设计目标是存储海量数据,为网络中的大量客户端提供数据访问。 在hdfs中单个文件被拆分多个固定大小的blo...

  • 120
    MySql高效应用(1)

    客户端 -->解析优化-->缓存-->存储引擎 并发控制 1、串行(队列)执行2、读(共享锁) 写(排他锁)锁 锁粒度 1、表锁2、行锁 行锁实现层在存储引擎上,mysql不...

  • 责任链模式

    当一个web请求到达的时候,去执行逻辑1,得到结果1;再根据结果1,执行逻辑2,得到结果2,……依次执行,最后得到结果N,也就是最终结果。 而具体到这个软件产品中,将具体要执...

  • 策略模式

    假设现在要设计一个贩卖各类书籍的电子商务网站的购物车系统。一个最简单的情况就是把所有货品的单价乘上数量,但是实际情况肯定比这要复杂。比如,本网站可能对所有的高级会员提供每本2...

  • invoke过程

    反射(Reflection)是Java 程序开发语言的特征之一,它允许运行中的 Java 程序获取自身的信息,并且可以操作类或对象的内部属性。 程序中对象的类型都是在编译期就...

  • 桥接模式深入理解

    桥接模式是一种结构型模式,它主要应对的是:由于实际的需要,某个类具有两个或两个以上的维度变化,如果只是用继承将无法实现这种需要,或会使得设计变得相当臃肿。 桥接模式的做法是把...

  • native关键字

    简单地讲,一个Native Method就是一个java调用非java代码的接口。一个Native Method是这样一个java的方法:该方法的实现由非java语言实现,比...

  • What does the sun.reflect.CallerSensitive annotation mean?

    在class.forName(String)中: Reflection.getCallerClass()返回调用此方法的方法调用者的类,忽略关联的框架及其实现。JVM将跟踪这...