240 发简信
IP属地:吉林
  • spark统一内存管理器UnifiedMemoryManager

    在1.6版本之前spark采用静态内存管理器StaticMemoryManager进行内存管理,而在之后spark采用统一内存管理器UnifiedMemoryManager进...

  • 120
    GeoMan模型数据预处理

    geoman模型基于编解码网络及分层注意力机制设计而成,可以对多源时间序列进行预测。在编码端,引入局部及全局注意力,并将传感器之间的距离作为全局注意力的一部分;在解码端,引入...

  • 基于spark随机森林的水质预测

    根据水质监测信息预测水质变化趋势,对水环境的有效防范治理具有重要意义。目前水质预测方法主要分为两类,一类为基于污染物在水环境中的理化过程建立的数值模型,主要包括WASP、QU...

  • java调用python程序

    丰富的第三方库使得python非常适合用于进行数据分析,最近在项目中就涉及到java调用python实现的算法。目前,java调用python主要包括三种方法:1、利用run...

  • spark源码解析之partitioner

    spark中stage的划分依据action算子进行,每一次action(reduceByKey等)算子都会触发一次shuffle过程,该过程涉及到数据的重新分区。spark...

  • spark读写数据仓库

    1、使用场景  随着业务及数据量的增长,数据库中的数据大致可以分为两类,一类为操作型数据,另一类为分析型数据。其中,操作型数据通常与日常业务紧密相关且可进行增删改查,而分析型...

  • rdd实现wordcount

    1、rdd实现wordcountrdd调用flatMap方法将rdd中每一个元素按空格分割并铺平,再通过map方法组成元组,最后通过reduceByKey进行词频统计,需要注...

  • 基于spark实现emd算法

    emd(empirical mode decomposition)算法广泛用于非平稳时间序列的平稳性处理,其基本原理是将原始序列分解为一系列本征模函数(IMFs)。在数据量比...

  • 120
    基于EMD分解与LSTM的空气质量预测

    作为RNN的一种变体,LSTM广泛用于时间序列的预测。本文结合EMD(empirical mode decomposition)算法及LSTM提出了EMD-LSTM算法用于空...

  • 120
    spark dataframe添加新的列

    使用spark的dataframe进行计算时有时需要添加新的列。本文介绍两种添加新列的方法,比较常见的一种方法是调用dataframe的withColumn方法,但是该方法存...

  • 120
    react-navigation动态显示/隐藏底部导航栏

    今天在项目中遇到一个问题,使用createBottomTabNavigator和createStackNavigator构建页面导航。如图1所示,底部导航栏每一个Tab都是一...

  • react-native实现文字的跑马灯设计

    最近在项目开发中遇到一个问题,当文字超出显示区域时使其以跑马灯的形式动态显示。react-native中显示文本用到的组件为Text,但Text并没有相关的属性用于设置文字的...

  • fetch函数设置timeout

    使用react-native开发app时,通常使用fetch函数与后台进行交互。请求后台接口时,为了防止用户等待太长时间需要设置timeout,但是原生的fetch并没有设置...

个人介绍
90后工科男,大数据分析工程师,探索数据智能的落地应用