初识kafka

大部分内容是翻译至Kafka The Definitive Guide,有翻译不好的地方请见谅,因为理解问题翻译错误的地方希望指出,我会及时改进

每个企业都由数据驱动。我们收集信息,分析信息,操纵信息并创造更多信息作为输出。 每个应用程序都会创建数据,无论它是日志消息,度量标准,用户活动,传出消息还是其他内容。 数据的每个字节都有一个要讲的故事,重要的事情将告知下一步要做的事情。 为了知道这是什么,我们需要从创建它的地方到可以分析的地方获取数据。

Apache Kafka是一个旨在解决这个问题的发布/订阅消息传递系统。它经常被描述为“分布式提交记录”,或者最近称为“分布式流式传输平台”。文件系统或数据库提交日志旨在提供持久记录 的所有交易,以便它们可以重播以持续建立系统状态。 同样,卡夫卡内的数据按顺序保存,并可以确定性地读取。 另外,数据可以在系统内分布以提供额外的保护以防止故障,这对于云平台有着跟重要的意义。

kafka是一个分布式流平台,流平台又三个主要的功能

  • 发布和订阅记录流,类似于消息队列或企业消息传递系统
  • 以容错持久的方式存储记录流。
  • 处理记录发生的流

几个概念:

  • kafka作为一个集群运行在一台或多台可以跨越多个数据中心的服务器上。
  • kafka存储记录流存在topic中。
  • 每个记录由一个键,一个值和一个时间戳组成。

Kafka 四个主要的Api:

  • The Producer API allows an application to publish a stream of records to one or more Kafka topics.
  • The Consumer API allows an application to subscribe to one or more topics and process the stream of records produced to them.
  • The Streams API allows an application to act as a stream processor, consuming an input stream from one or more topics and producing an output stream to one or more output topics, effectively transforming the input streams to output streams.
  • The Connector API allows building and running reusable producers or consumers that connect Kafka topics to existing applications or data systems. For example, a connector to a relational database might capture every change to a table.

kafkat特点:

  • Persistent messaging:
    为了从大数据中推导出真正的价值,无法提供任何类型的信息损失。 Apache Kafka采用O(1)磁盘结构设计,即使存储的消息大量存储在TB中,也可以提供恒定的性能。 通过Kafka,邮件可以保存在磁盘上,也可以在群集中复制以防止数据丢失。

  • High throughput
    保存大数据,Kafka被设计运行在可伸缩的硬件上,并能够处理来自大量客户端的每秒数百MB的读写。

  • Distributed
    Apache Kafka的集群中心设计明确支持Kafka服务器上的消息分区,并在消费者机器集群上分配消耗,同时保持每分区排序语义。Kafka集群可以弹性且透明地工作而不会出现任何停机

  • Real time
    生产者线程产生的消息应该立即对消费者线程可见;此功能对基于事件的系统(如复杂事件处理(CEP)系统)至关重要。

kafka
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 201,552评论 5 474
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 84,666评论 2 377
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 148,519评论 0 334
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,180评论 1 272
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,205评论 5 363
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,344评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,781评论 3 393
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,449评论 0 256
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,635评论 1 295
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,467评论 2 317
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,515评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,217评论 3 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,775评论 3 303
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,851评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,084评论 1 258
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,637评论 2 348
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,204评论 2 341