240 发简信
IP属地:山东
  • 120
    SparkThriftServer内存泄漏排查

    STS(SparkThrfitServer)版本 spark-3.2.1-bin-hadoop3.2 问题表现 Spark UI 经常无响应 STS 经常挂掉 问题分析 获取...

  • @Me丶kang 原理看官方文档:
    https://kylo.readthedocs.io/en/v0.10.0/security/AccessControl.html#entity-level-authorization

    解决方式开启Entity-Level 级别权限控制:
    1. 修改/opt/kylo/kylo-services/conf/application.properties
    security.entity.access.controlled=true
    2. 重启服务

    Kylo单机安装详解

    创建需要的用户和分组 useradd -r -m -s /bin/bash nifi && useradd -r -m -s /bin/bash kylo && userad...

  • Apache官方Spark整合HDP的Hadoop版本

    环境描述 spark 版本: spark-2.4.0-bin-hadoop2.7 hdp 版本: 2.6.3.0-235 Spark整合Hadoop cp spark-env...

  • 数据部门起步阶段需要建立数仓么?

    之前我写了一篇关于数据中台和数仓的关系 的文章,里面理清了数仓和中台的关系。后面我了解到更通用的技术词汇去表达数据管理的两种方式: 数据联邦和数据仓储。 显然传统的数仓采用的...

  • 数据中台和数仓的关系

    传统数仓 传统数仓有几个特点: 数据具有历史性 基于文件存储 以表为形态,自带元数据存储(比如Hive) 在数仓的数据是其他数据的拷贝或者拷贝的加工 传统数仓需要拷贝数据的重...

  • 有个问题请教下, 不知大神可遇到过, kylo集群安装好, 浏览UI, Admin -> Connectors -> Hive, 提示无权限, 其实不止Hive, 所有连接器都是这个提示:

    Unauthorized
    Sorry. You don't have access to this page

    但是权限都配置了, 用dladmin登录页提示这个消息, 烦恼ing..

    kylo集群+nifi集群搭建

    kylo集群搭建教程 kylo文档中 Clustering Kylo 介绍的比较模糊,但是大概步骤都讲到了。 kylo的集群,目的是做HA,所以两个节点共用同一个数据库,在这...

  • 120
    kylo集群+nifi集群搭建

    kylo集群搭建教程 kylo文档中 Clustering Kylo 介绍的比较模糊,但是大概步骤都讲到了。 kylo的集群,目的是做HA,所以两个节点共用同一个数据库,在这...

  • Kylo集群安装详解

    说明 集群由dpnode05和dpnode08两个节点组成 >>>下面在dpnode05上操作 创建kylo安装目录 mkdir /opt/kylo 将装装包解压到安装目录 ...

  • 按照你的文章搭建两个节点的kylo cluster, 但是提示只有一个节点,检查了很多遍不知道哪里出了问题, 下面是kylo-ui上的提示:
    dpnode05-44719 CRITICAL Error. Missing 1 nodes.
    dpnode08-4336 CRITICAL Error. Missing 1 nodes.

    下面是kylo-services.log中的日志:
    2019-02-26 15:07:45 INFO kylo-startup pool-2:JGroupsClusterService:175 - Cluster membership changed: There are now 1 members in the cluster. [dpnode05-29438]
    2019-02-26 15:07:45 INFO kylo-startup pool-2:JGroupsClusterService:242 - *** Channel connected dpnode05-29438,[dpnode05-29438]
    2019-02-26 15:07:45 INFO kylo-startup pool-2:NifiFlowCacheClusterManager:250 - Kylo Cluster Node connected 1 members exist. [dpnode05-29438]
    2019-02-26 15:07:45 INFO kylo-startup pool-2:NifiFlowCacheClusterManager:255 - This is the First Member connecting to the cluster. Resetting the previous Cluster cache updates 1 members exist. [dpnode05-29438]

    不知道你有没有遇到过这种情况呢?

    kylo集群+nifi集群搭建

    kylo集群搭建教程 kylo文档中 Clustering Kylo 介绍的比较模糊,但是大概步骤都讲到了。 kylo的集群,目的是做HA,所以两个节点共用同一个数据库,在这...

  • Kylo单机安装详解

    创建需要的用户和分组 useradd -r -m -s /bin/bash nifi && useradd -r -m -s /bin/bash kylo && userad...

  • 7取消与关闭

    概念 中断(Interruption),是一种协作机制,能够使一个线程终止另一个线程的当前工作。 中断只适合用于取消操作,如果用在取消之外的其他操作则是不合适的;中断是实现取...

  • 6任务执行

    任务的优点 通过把应用程序的工作分解到多个任务中,可以简化应用程序的组织结构,提供一种自然的事务边界来优化错误恢复过程, 以及提供一种自然的并行工作结构来提升并发性! 任务独...

  • 5同步工具类

    同步容器类 常见同步类 Vector Hashtable Collections.synchronizedXxx工厂方法创建的封装容器注:Vector和Hashtable是早...

  • 4对象组合

    对象组合的意义 将一些现有的线程安全组件组合为更大规模的组件或程序,降低线程安全分析和维护的复杂度,提高线程安全的可靠性 设计线程安全类的三要素 找出构成对象状态的所有变量 ...