240 发简信
IP属地:辽宁
  • 启动hadoop时,datanode未能正常启动

    启动hdfs时,查看进程发现没有datanode进程 尝试单独启动datanode,发现还是不行 然后到hadoop日志目录下查看datanode得日志信息报错信息如下: 此...

  • hdfs ha脚本邮件预警failover

    1.脚本编写 1.1.执行脚本 此时hdfs ha没有产生failover,所以仅仅是打印了集群hdfs ha状态 2.模拟failover 此时再次执行 get_hdfs_...

  • 120
    mail 465邮件配置

    1.开启QQ邮箱SMTP服务 然后点击图片右下角生成授权码 ,获取到授权码 2.停止服务 此操作是在root用户下进行 3.启动postfix服务 此操作是在root用户下进...

  • shell脚本编程(进阶)

    以三台机器搭建的集群为例 1.查看三台机器的进程 2.拷贝文件脚本 3.启动集群shell脚本 3.1 编写启动脚本 3.2 执行脚本并查看进程 3.2.1 排查集群未启动成...

  • shell脚本编程(基础)

    输出字符串hello world shell debug模式 变量定义与引用 ⚠️ 注意点 = 前后不能有空格变量名称一般为大写调用变量最好使用{} 例如:${date1}字...

  • chmod命令

    说明 linux 文件调用权限分为三级:文件拥有者、群组、其他。利用 chmod 可以控制文件如何被他人所调用 语法 参数说明 mode : 权限设定字串,格式如下 : u...

  • 120
    Hbase读写流程

    写流程hbase write process.jpg流程描述 1.Client获取数据写入的Region所在的RegionServer2.请求写Hlog3.请求写MemSt...

  • 120
    HDFS Yarn HA架构图及架构区别

    HDFS HA架构图 1.各组件说明 active nn(NameNode) 接收client的rpc请求并处理,同时自己editlog写一份,也向JN的共享存储上的edit...

  • 120
    Hadoop集群搭建

    1.组件版本 2.组件安装与配置 2.1.添加hadoop用户并创建目录 以ruozedata001机器为示例,ruozedata002/ruozedata003两台操作一致...

  • 120
    YARN调度器种类与区别

    三种调度器 1.FIFO调度器(FIFO Scheduler)2.容量调度器(Capacity Scheduler)3.公平调度器(Fair Scheduler) 三种调度器...

  • HDFS压缩方式

    gzip压缩优点:压缩率比较高,而且压缩/解压速度也比较快;hadoop本身支持,在应用中处理gzip格式的文件就和直接处理文本一样;有hadoop native库;大部分l...

  • HDFS读写流程

    HDFS写流程写流程图片... 1.客户端通过对DistributedFileSystem对象调用create()来新建文件2.DistributedFileSystem对n...

  • HIVE基本语法

    建表语句 EXTERNAL 关键字可以让用户创建一个外部表,在建表的同时指定一个指向实际数据的路径(LOCATION)LIKE 允许用户复制现有的表结构,但是不复制数据COM...

  • spark2.4.2源码编译集成hadoop-2.6.0-cdh5.15.1

    1.准备工作 1.1 组件及源码下载 ⚠️ 版本要求:JDK1.8+,maven3.5.4+,scala 2.11.+ 1.2 环境搭建同:hadoop-2.6.0-cdh5...

  • 120
    hadoop-2.6.0-cdh5.15.1源码编译

    1.前期准备工作 1.1 组件及源码下载 ⚠️ 编译该版本源码需要jdk1.7 1.2 安装必要工具 1.3 安装必要的依赖库 1.4 上传压缩包并解压缩配置环境 这里没有添...

  • 适合练习的10个Python项目,每个项目都不到500行代码

    以下10个练手项目均摘录自一本尚未出版的 Python 神书《500 Lines or Less》,尽管没有出版,但其 review 版已在官方博客放出。 1. 实现一个网络...