Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
初秋大大
JavaGuide
提交
5b6ad060
J
JavaGuide
项目概览
初秋大大
/
JavaGuide
与 Fork 源项目一致
从无法访问的项目Fork
通知
1
Star
1
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
1
列表
看板
标记
里程碑
合并请求
0
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
J
JavaGuide
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
1
Issue
1
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
体验新版 GitCode,发现更多精彩内容 >>
提交
5b6ad060
编写于
3月 29, 2021
作者:
G
guide
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
[refractor]消息队列md样式
上级
dcbdf7b9
变更
2
隐藏空白更改
内联
并排
Showing
2 changed file
with
39 addition
and
54 deletion
+39
-54
README.md
README.md
+2
-2
docs/system-design/distributed-system/message-queue/message-queue.md
...-design/distributed-system/message-queue/message-queue.md
+37
-52
未找到文件。
README.md
浏览文件 @
5b6ad060
...
...
@@ -266,11 +266,11 @@ Dubbo 是一款国产的 RPC 框架,由阿里开源。相关阅读:
#### 消息队列
消息队列在分布式系统中主要是为了解耦和削峰。相关阅读:
**[消息队列总结](docs/system-design/distributed-system/message-queue/message-queue.md)**
。
消息队列在分布式系统中主要是为了解耦和削峰。相关阅读:
[
消息队列常见问题总结
](
docs/system-design/distributed-system/message-queue/message-queue.md
)
。
1.
**RabbitMQ**
:
[
RabbitMQ 入门
](
docs/system-design/distributed-system/message-queue/RabbitMQ入门看这一篇就够了.md
)
2.
**RocketMQ**
:
[
RocketMQ 入门
](
docs/system-design/distributed-system/message-queue/RocketMQ.md
)
、
[
RocketMQ 的几个简单问题与答案
](
docs/system-design/distributed-system/message-queue/RocketMQ-Questions.md
)
3.
**Kafka**
:
[
Kafka 常见
面试
题总结
](
docs/system-design/distributed-system/message-queue/Kafka常见面试题总结.md
)
3.
**Kafka**
:
[
Kafka 常见
问
题总结
](
docs/system-design/distributed-system/message-queue/Kafka常见面试题总结.md
)
#### 读写分离
...
...
docs/system-design/distributed-system/message-queue/message-queue.md
浏览文件 @
5b6ad060
# 消息队列其实很简单
“RabbitMQ?”“Kafka?”“RocketMQ?”...在日常学习与开发过程中,我们常常听到消息队列这个关键词。我也在我的多篇文章中提到了这个概念。可能你是熟练使用消息队列的老手,又或者你是不懂消息队列的新手,不论你了不了解消息队列,本文都将带你搞懂消息队列的一些基本理论。如果你是老手,你可能从本文学到你之前不曾注意的一些关于消息队列的重要概念,如果你是新手,相信本文将是你打开消息队列大门的一板砖。
## 一 什么是消息队列
**我们可以把消息队列看作是一个存放消息的容器,当我们需要使用消息的时候,直接从容器中取出消息供自己使用即可。**
我们可以把消息队列看作是一个存放消息的容器,当我们需要使用消息的时候,直接从容器中取出消息供自己使用即可。
![
Message queue
](
https://guide-blog-images.oss-cn-shenzhen.aliyuncs.com/%E6%B6%88%E6%81%AF%E9%98%9F%E5%88%97/message-queue-small.png
)
...
...
@@ -15,7 +14,7 @@
## 二 为什么要用消息队列
我觉得使用消息队列主要有
三点好处:
通常来说,使用消息队列能为我们的系统带来下面
三点好处:
1.
**通过异步处理提高系统性能(减少响应所需时间)。**
2.
**削峰/限流**
...
...
@@ -23,20 +22,15 @@
如果在面试的时候你被面试官问到这个问题的话,一般情况是你在你的简历上涉及到消息队列这方面的内容,这个时候推荐你结合你自己的项目来回答。
《大型网站技术架构》第四章和第七章均有提到消息队列对应用性能及扩展性的提升。
### 2.1 通过异步处理提高系统性能(减少响应所需时间)
![
通过异步处理提高系统性能
](
https://my-blog-to-use.oss-cn-beijing.aliyuncs.com/2019-11/Asynchronous-message-queue.png
)
将用户的请求数据存储到消息队列之后就立即返回结果。随后,系统再对消息进行消费。
因为
**用户请求数据写入消息队列之后就立即返回给用户了,但是请求数据在后续的业务校验、写数据库等操作中可能失败**
。因此使用消息队列进行异步处理之后,需要
**适当修改业务流程进行配合**
,比如
**用户在提交订单之后,订单数据写入消息队列,不能立即返回用户订单提交成功,需要在消息队列的订单消费者进程真正处理完该订单之后,甚至出库后,再通过电子邮件或短信通知用户订单成功**
,以免交易纠纷。这就类似我们平时手机订火车票和电影票。
因为
用户请求数据写入消息队列之后就立即返回给用户了,但是请求数据在后续的业务校验、写数据库等操作中可能失败。因此,
**使用消息队列进行异步处理之后,需要适当修改业务流程进行配合**
,比如用户在提交订单之后,订单数据写入消息队列,不能立即返回用户订单提交成功,需要在消息队列的订单消费者进程真正处理完该订单之后,甚至出库后,再通过电子邮件或短信通知用户订单成功
,以免交易纠纷。这就类似我们平时手机订火车票和电影票。
### 2.2 削峰/限流
...
...
@@ -58,14 +52,14 @@
消息接受者对消息进行过滤、处理、包装后,构造成一个新的消息类型,将消息继续发送出去,等待其他消息接受者订阅该消息。因此基于事件(消息对象)驱动的业务架构可以是一系列流程。
**另外为了避免消息队列服务器宕机造成消息丢失,会将成功发送到消息队列的消息存储在消息生产者服务器上,等消息真正被消费者服务器处理后才删除消息。在消息队列服务器宕机后,生产者服务器会选择分布式消息队列服务器集群中的其他服务器发布消息。**
另外,为了避免消息队列服务器宕机造成消息丢失,会将成功发送到消息队列的消息存储在消息生产者服务器上,等消息真正被消费者服务器处理后才删除消息。在消息队列服务器宕机后,生产者服务器会选择分布式消息队列服务器集群中的其他服务器发布消息。
**备注:**
不要认为消息队列只能利用发布-订阅模式工作,只不过在解耦这个特定业务环境下是使用发布-订阅模式的。
**除了发布-订阅模式,还有点对点订阅模式(一个消息只有一个消费者),我们比较常用的是发布-订阅模式。**
另外,这两种消息模型是 JMS 提供的,AMQP 协议还提供了 5 种消息模型。
**备注:**
不要认为消息队列只能利用发布-订阅模式工作,只不过在解耦这个特定业务环境下是使用发布-订阅模式的。
除了发布-订阅模式,还有点对点订阅模式(一个消息只有一个消费者),我们比较常用的是发布-订阅模式。
另外,这两种消息模型是 JMS 提供的,AMQP 协议还提供了 5 种消息模型。
## 三 使用消息队列带来的一些问题
-
**系统可用性降低:**
系统可用性在某种程度上降低,为什么这样说呢?在加入
MQ之前,你不用考虑消息丢失或者说MQ挂掉等等的情况,但是,引入MQ
之后你就需要去考虑了!
-
**系统复杂性提高:**
加入
MQ
之后,你需要保证消息没有被重复消费、处理消息丢失的情况、保证消息传递的顺序性等等问题!
-
**系统可用性降低:**
系统可用性在某种程度上降低,为什么这样说呢?在加入
MQ 之前,你不用考虑消息丢失或者说 MQ 挂掉等等的情况,但是,引入 MQ
之后你就需要去考虑了!
-
**系统复杂性提高:**
加入
MQ
之后,你需要保证消息没有被重复消费、处理消息丢失的情况、保证消息传递的顺序性等等问题!
-
**一致性问题:**
我上面讲了消息队列可以实现异步,消息队列带来的异步确实可以提高系统响应速度。但是,万一消息的真正消费者并没有正确消费消息怎么办?这样就会导致数据不一致的情况了!
## 四 JMS VS AMQP
...
...
@@ -74,80 +68,71 @@
#### 4.1.1 JMS 简介
JMS(JAVA Message Service,java
消息服务)是java的消息服务,JMS的客户端之间可以通过JMS服务进行异步的消息传输。
**JMS(JAVA Message Service,Java消息服务)API是一个消息服务的标准或者说是规范**
,允许应用程序组件基于JavaEE
平台创建、发送、接收和读取消息。它使分布式通信耦合度更低,消息服务更加可靠以及异步性。
JMS(JAVA Message Service,java
消息服务)是 java 的消息服务,JMS 的客户端之间可以通过 JMS 服务进行异步的消息传输。
**JMS(JAVA Message Service,Java 消息服务)API 是一个消息服务的标准或者说是规范**
,允许应用程序组件基于 JavaEE
平台创建、发送、接收和读取消息。它使分布式通信耦合度更低,消息服务更加可靠以及异步性。
**ActiveMQ 就是基于 JMS 规范实现的。**
#### 4.1.2 JMS两种消息模型
#### 4.1.2 JMS
两种消息模型
①点到点(P2P)模型
**① 点到点(P2P)模型**
![
点到点(P2P)模型
](
https://user-gold-cdn.xitu.io/2018/4/21/162e7185572ca37d?w=575&h=135&f=gif&s=8530
)
使用
**队列(Queue)**
作为消息通信载体;满足
**生产者与消费者模式**
,一条消息只能被一个消费者使用,未被消费的消息在队列中保留直到被消费或超时。比如:我们生产者发送
100
条消息的话,两个消费者来消费一般情况下两个消费者会按照消息发送的顺序各自消费一半(也就是你一个我一个的消费。)
使用
**队列(Queue)**
作为消息通信载体;满足
**生产者与消费者模式**
,一条消息只能被一个消费者使用,未被消费的消息在队列中保留直到被消费或超时。比如:我们生产者发送
100
条消息的话,两个消费者来消费一般情况下两个消费者会按照消息发送的顺序各自消费一半(也就是你一个我一个的消费。)
② 发布/订阅(Pub/Sub)模型
**② 发布/订阅(Pub/Sub)模型**
!
[
发布/订阅(Pub/Sub)模型
](
https://user-gold-cdn.xitu.io/2018/4/21/162e7187c268eaa5?w=402&h=164&f=gif&s=15492
)
![
发布/订阅(Pub/Sub)模型
](
https://user-gold-cdn.xitu.io/2018/4/21/162e7187c268eaa5?w=402&h=164&f=gif&s=15492
)
发布订阅模型(Pub/Sub) 使用
**主题(Topic)**
作为消息通信载体,类似于
**广播模式**
;发布者发布一条消息,该消息通过主题传递给所有的订阅者,
**在一条消息广播之后才订阅的用户则是收不到该条消息的**
。
#### 4.1.3 JMS 五种不同的消息正文格式
JMS定义了五种不同的消息正文格式,以及调用的消息类型,允许你发送并接收以一些不同形式的数据,提供现有消息格式的一些级别的兼容性。
JMS
定义了五种不同的消息正文格式,以及调用的消息类型,允许你发送并接收以一些不同形式的数据,提供现有消息格式的一些级别的兼容性。
-
StreamMessage -- Java原始值的数据流
-
StreamMessage -- Java
原始值的数据流
-
MapMessage--一套名称-值对
-
TextMessage--一个字符串对象
-
ObjectMessage--一个序列化的 Java对象
-
ObjectMessage--一个序列化的 Java
对象
-
BytesMessage--一个字节的数据流
### 4.2 AMQP
AMQP,即Advanced Message Queuing Protocol,一个提供统一消息服务的应用层标准
**高级消息队列协议**
(二进制应用层协议),是应用层协议的一个开放标准,为面向消息的中间件设计,兼容 JMS。基于此协议的客户端与消息中间件可传递消息,并不受客户端/中间件同产品,不同的开发语言等条件的限制。
AMQP,即
Advanced Message Queuing Protocol,一个提供统一消息服务的应用层标准
**高级消息队列协议**
(二进制应用层协议),是应用层协议的一个开放标准,为面向消息的中间件设计,兼容 JMS。基于此协议的客户端与消息中间件可传递消息,并不受客户端/中间件同产品,不同的开发语言等条件的限制。
**RabbitMQ 就是基于 AMQP 协议实现的。**
### 4.3 JMS vs AMQP
|对比方向| JMS | AMQP |
| :-------- | --------:| :--: |
| 定义| Java API | 协议 |
| 跨语言 | 否 | 是 |
| 跨平台 | 否 | 是 |
| 支持消息类型 | 提供两种消息模型:①Peer-2-Peer;②Pub/sub| 提供了五种消息模型:①direct exchange;②fanout exchange;③topic change;④headers exchange;⑤system exchange。本质来讲,后四种和JMS的pub/sub模型没有太大差别,仅是在路由机制上做了更详细的划分;|
|支持消息类型| 支持多种消息类型 ,我们在上面提到过| byte[](二进制)|
| 对比方向 | JMS | AMQP |
| :----------- | --------------------------------------: | :----------------------------------------------------------: |
| 定义 | Java API | 协议 |
| 跨语言 | 否 | 是 |
| 跨平台 | 否 | 是 |
| 支持消息类型 | 提供两种消息模型:①Peer-2-Peer;②Pub/sub | 提供了五种消息模型:①direct exchange;②fanout exchange;③topic change;④headers exchange;⑤system exchange。本质来讲,后四种和 JMS 的 pub/sub 模型没有太大差别,仅是在路由机制上做了更详细的划分; |
| 支持消息类型 | 支持多种消息类型 ,我们在上面提到过 | byte[](二进制) |
**总结:**
-
AMQP 为消息定义了线路层(wire-level protocol)的协议,而JMS所定义的是API规范。在 Java 体系中,多个client均可以通过JMS进行交互,不需要应用修改代码,但是其对跨平台的支持较差。而AMQP天然具有跨平台、跨语言特性。
-
JMS 支持TextMessage、MapMessage 等复杂的消息类型;而 AMQP 仅支持 byte[] 消息类型(复杂的类型可序列化后发送)。
-
由于Exchange 提供的路由算法,AMQP可以提供多样化的路由方式来传递消息到消息队列,而 JMS 仅支持 队列 和 主题/订阅 方式两种。
-
AMQP 为消息定义了线路层(wire-level protocol)的协议,而 JMS 所定义的是 API 规范。在 Java 体系中,多个 client 均可以通过 JMS 进行交互,不需要应用修改代码,但是其对跨平台的支持较差。而 AMQP 天然具有跨平台、跨语言特性。
-
JMS 支持 TextMessage、MapMessage 等复杂的消息类型;而 AMQP 仅支持 byte[] 消息类型(复杂的类型可序列化后发送)。
-
由于 Exchange 提供的路由算法,AMQP 可以提供多样化的路由方式来传递消息到消息队列,而 JMS 仅支持 队列 和 主题/订阅 方式两种。
## 五 常见的消息队列对比
对比方向 |概要
-------- | ---
吞吐量| 万级的 ActiveMQ 和 RabbitMQ 的吞吐量(ActiveMQ 的性能最差)要比 十万级甚至是百万级的 RocketMQ 和 Kafka 低一个数量级。
可用性| 都可以实现高可用。ActiveMQ 和 RabbitMQ 都是基于主从架构实现高可用性。RocketMQ 基于分布式架构。 kafka 也是分布式的,一个数据多个副本,少数机器宕机,不会丢失数据,不会导致不可用
时效性| RabbitMQ 基于erlang开发,所以并发能力很强,性能极其好,延时很低,达到微秒级。其他三个都是 ms 级。
功能支持| 除了 Kafka,其他三个功能都较为完备。 Kafka 功能较为简单,主要支持简单的MQ功能,在大数据领域的实时计算以及日志采集被大规模使用,是事实上的标准
消息丢失| ActiveMQ 和 RabbitMQ 丢失的可能性非常低, RocketMQ 和 Kafka 理论上不会丢失。
| 对比方向 | 概要 |
| -------- | ------------------------------------------------------------ |
| 吞吐量 | 万级的 ActiveMQ 和 RabbitMQ 的吞吐量(ActiveMQ 的性能最差)要比 十万级甚至是百万级的 RocketMQ 和 Kafka 低一个数量级。 |
| 可用性 | 都可以实现高可用。ActiveMQ 和 RabbitMQ 都是基于主从架构实现高可用性。RocketMQ 基于分布式架构。 kafka 也是分布式的,一个数据多个副本,少数机器宕机,不会丢失数据,不会导致不可用 |
| 时效性 | RabbitMQ 基于 erlang 开发,所以并发能力很强,性能极其好,延时很低,达到微秒级。其他三个都是 ms 级。 |
| 功能支持 | 除了 Kafka,其他三个功能都较为完备。 Kafka 功能较为简单,主要支持简单的 MQ 功能,在大数据领域的实时计算以及日志采集被大规模使用,是事实上的标准 |
| 消息丢失 | ActiveMQ 和 RabbitMQ 丢失的可能性非常低, RocketMQ 和 Kafka 理论上不会丢失。 |
**总结:**
-
ActiveMQ 的社区算是比较成熟,但是较目前来说,ActiveMQ 的性能比较差,而且版本迭代很慢,不推荐使用。
-
RabbitMQ 在吞吐量方面虽然稍逊于 Kafka 和 RocketMQ ,但是由于它基于 erlang 开发,所以并发能力很强,性能极其好,延时很低,达到微秒级。但是也因为 RabbitMQ 基于 erlang 开发,所以国内很少有公司有实力做
erlang
源码级别的研究和定制。如果业务场景对并发量要求不是太高(十万级、百万级),那这四种消息队列中,RabbitMQ 一定是你的首选。如果是大数据领域的实时计算、日志采集等场景,用 Kafka 是业内标准的,绝对没问题,社区活跃度很高,绝对不会黄,何况几乎是全世界这个领域的事实性规范。
-
RocketMQ 阿里出品,Java 系开源项目,源代码我们可以直接阅读,然后可以定制自己公司的
MQ,并且 RocketMQ 有阿里巴巴的实际业务场景的实战考验。RocketMQ 社区活跃度相对较为一般,不过也还可以,文档相对来说简单一些,然后接口这块不是按照标准 JMS 规范走的有些系统要迁移需要修改大量代码。还有就是阿里出台的技术,你得做好这个技术万一被抛弃,社区黄掉的风险,那如果你们公司有技术实力我觉得用
RocketMQ 挺好的
-
RabbitMQ 在吞吐量方面虽然稍逊于 Kafka 和 RocketMQ ,但是由于它基于 erlang 开发,所以并发能力很强,性能极其好,延时很低,达到微秒级。但是也因为 RabbitMQ 基于 erlang 开发,所以国内很少有公司有实力做
erlang
源码级别的研究和定制。如果业务场景对并发量要求不是太高(十万级、百万级),那这四种消息队列中,RabbitMQ 一定是你的首选。如果是大数据领域的实时计算、日志采集等场景,用 Kafka 是业内标准的,绝对没问题,社区活跃度很高,绝对不会黄,何况几乎是全世界这个领域的事实性规范。
-
RocketMQ 阿里出品,Java 系开源项目,源代码我们可以直接阅读,然后可以定制自己公司的
MQ,并且 RocketMQ 有阿里巴巴的实际业务场景的实战考验。RocketMQ 社区活跃度相对较为一般,不过也还可以,文档相对来说简单一些,然后接口这块不是按照标准 JMS 规范走的有些系统要迁移需要修改大量代码。还有就是阿里出台的技术,你得做好这个技术万一被抛弃,社区黄掉的风险,那如果你们公司有技术实力我觉得用
RocketMQ 挺好的
-
Kafka 的特点其实很明显,就是仅仅提供较少的核心功能,但是提供超高的吞吐量,ms 级的延迟,极高的可用性以及可靠性,而且分布式可以任意扩展。同时 kafka 最好是支撑较少的 topic 数量即可,保证其超高吞吐量。kafka 唯一的一点劣势是有可能消息重复消费,那么对数据准确性会造成极其轻微的影响,在大数据领域中以及日志采集中,这点轻微影响可以忽略这个特性天然适合大数据实时计算以及日志收集。
参考:《Java工程师面试突击第1季-中华石杉老师》
参考:《Java 工程师面试突击第 1 季-中华石杉老师》
\ No newline at end of file
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录