【RabbitMQ】RabbitMQ 常见问题
RabbitMQ 常见问题
RabbitMQ 是什么?
RabbitMQ 是实现了 高级消息队列协议(AMQP) 的开源消息代理软件(亦称面向消息的中间件)。RabbitMQ 服务器是用 Erlang 语言编写的,而群集和故障转移是构建在开放电信平台框架上的。所有主要的编程语言均有与代理接口通讯的客户端库。
PS: 也可能直接问什么是消息队列?消息队列就是一个使用队列来通信的组件。
RabbitMQ 特点?
- 可靠性:RabbitMQ 使用一些机制来保证可靠性, 如持久化、传输确认及发布确认等。
- 灵活的路由:在消息进入队列之前,通过交换器来路由消息。对于典型的路由功能, RabbitMQ 己经提供了一些内置的交换器来实现。针对更复杂的路由功能,可以将多个交换器绑定在一起, 也可以通过插件机制来实现自己的交换器。
- 扩展性:多个 RabbitMQ 节点可以组成一个集群,也可以根据实际业务情况动态地扩展 集群中节点。
- 高可用性:队列可以在集群中的机器上设置镜像,使得在部分节点出现问题的情况下队列仍然可用。
- 多种协议:RabbitMQ 除了原生支持 AMQP 协议,还支持 STOMP, MQTT 等多种消息中间件协议。
- 多语言客户端:RabbitMQ 几乎支持所有常用语言,比如 Java、 Python、 Ruby、 PHP、 C#、 JavaScript 等。
- 管理界面:RabbitMQ 提供了一个易用的用户界面,使得用户可以监控和管理消息、集 群中的节点等。
- 插件机制:RabbitMQ 提供了许多插件, 以实现从多方面进行扩展,当然也可以编写自己的插件。
AMQP 是什么?
RabbitMQ 就是 AMQP 协议的 Erlang 的实现(当然 RabbitMQ 还支持 STOMP2、 MQTT3 等协议 )。 AMQP 的模型架构和 RabbitMQ 的模型架构是一样的,生产者将消息发送给交换器,交换器和队列绑定。
RabbitMQ 中的交换器、交换器类型、队列、绑定、路由键等都是遵循的 AMQP 协议中相应的概念。目前 RabbitMQ 最新版本默认支持的是 AMQP 0-9-1。
AMQP 协议 3 层?
- Module Layer:协议最高层,主要定义了一些客户端调用的命令,客户端可以用这些命令实现自己的业务逻辑。
- Session Layer:中间层,主要负责客户端命令发送给服务器,再将服务端应答返回客户端,提供可靠性同步机制和错误处理。
- Transport Layer:最底层,主要传输二进制数据流,提供帧的处理、信道复用、错误检测和数据表示等。
AMQP 模型的几大组件?
- 交换器(Exchange):消息代理服务器中用于把消息路由到队列的组件。
- 队列(Queue):用来存储消息的数据结构,位于硬盘或内存中。
- 绑定(Binding):一套规则,告知交换器消息应该将消息投递给哪个队列。
说说生产者 Producer 和消费者 Consumer?
生产者:
- 消息生产者,就是投递消息的一方。
- 消息一般包含两个部分:消息体(payload)和标签(Label)。
消费者:
- 消费消息,也就是接收消息的一方。
- 消费者连接到 RabbitMQ 服务器,并订阅到队列上。消费消息时只消费消息体,丢弃标签。
为什么需要消息队列?
从本质上来说是因为互联网的快速发展,业务不断扩张,促使技术架构需要不断的演进。
从以前的单体架构到现在的微服务架构,成百上千的服务之间相互调用和依赖。从互联网初期一个服务器上有 100 个在线用户已经很了不得,到现在坐拥 10 亿日活的微信。此时,我们需要有一个「工具」来解耦服务之间的关系、控制资源合理合时的使用以及缓冲流量洪峰等等。因此,消息队列就应运而生了。
它常用来实现:异步处理、服务解耦、流量控制(削峰)。
说说 Broker 服务节点、Queue 队列、Exchange 交换器?
- Broker:可以看做 RabbitMQ 的服务节点。一般请下一个 Broker 可以看做一个 RabbitMQ 服务器。
- Queue:RabbitMQ 的内部对象,用于存储消息。多个消费者可以订阅同一队列,这时队列中的消息会被平摊(轮询)给多个消费者进行处理。
- Exchange:生产者将消息发送到交换器,由交换器将消息路由到一个或者多个队列中。当路由不到时,或返回给生产者或直接丢弃。
消息队列有什么优缺点
优点上面已经说了,就是在特殊场景下有其对应的好处,解耦、异步、削峰。缺点有以下几个:
- 系统可用性降低系统引入的外部依赖越多,越容易挂掉。万一 MQ 挂了,MQ 一挂,整套系统崩溃
- 系统复杂度提高,硬生生加个 MQ 进来,怎么保证消息没有重复消费?怎么处理消息丢失的情况?
- 怎么保证消息传递的顺序性?
- 一致性问题, A 系统处理完了直接返回成功了,人都以为你这个请求就成功了;但是问题是,要是 BCD 三个系统那里,BD 两个系统写库成功了,结果 C 系统写库失败了,咋整?你这数据就不一致 了。
如何保证消息的可靠性?
消息到 MQ 的过程中搞丢,MQ 自己搞丢,MQ 到消费过程中搞丢。
- 生产者到 RabbitMQ:事务机制和 Confirm 机制,注意:事务机制和 Confirm 机制是互斥的,两者不能共存,会导致 RabbitMQ 报错。
- RabbitMQ 自身:持久化、集群、普通模式、镜像模式。
- RabbitMQ 到消费者:basicAck 机制、死信队列、消息补偿机制。
什么是 RoutingKey 路由键?
生产者将消息发送给交换器的时候,会指定一个 RoutingKey
, 用来指定这个消息的路由规则,这个 RoutingKey
需要与交换器类型和绑定键 (BindingKey
) 联合使用才能最终生效。
Binding 绑定?
通过绑定将交换器和队列关联起来,一般会指定一个 BindingKey
, 这样 RabbitMQ 就知道如何正确路由消息到队列了。
交换器 4 种类型?
- fanout:把所有发送到该交换器的消息路由到所有与该交换器绑定的队列中。
- direct:把消息路由到
BindingKey
和RoutingKey
完全匹配的队列中。 - headers:不依赖路由键匹配规则路由消息。是根据发送消息内容中的 headers 属性进行匹配。性能差,基本用不到。
- topic:按照匹配规则分发。* 匹配一个单词,# 匹配多个或者 0 个
生产者消息运转?
- Producer 先连接到 Broker, 建立连接 Connection, 开启一个信道 (Channel)。
- Producer 声明一个交换器并设置好相关属性。
- Producer 声明一个队列并设置好相关属性。
- Producer 通过路由键将交换器和队列绑定起来。
- Producer 发送消息到 Broker,其中包含路由键、交换器等信息。
- 相应的交换器根据接收到的路由键查找匹配的队列。
- 如果找到,将消息存入对应的队列,如果没有找到,会根据生产者的配置丢弃或者退回给生产者。
- 关闭信道。
- 关闭连接。
消费者接收消息过程?
- Producer 先连接到 Broker, 建立连接 Connection, 开启一个信道 (Channel)。
- 向 Broker 请求消费响应的队列中消息,可能会设置响应的回调函数。
- 等待 Broker 回应并投递相应队列中的消息,接收消息。
- 消费者确认收到的消息,ack。
- RabbitMQ 从队列中删除已经确定的消息。
- 关闭信道。
- 关闭连接。
交换器无法根据自身类型和路由键找到符合条件队列时,有哪些处理?
mandatory: true
返回消息给生产者。mandatory: false
直接丢弃。
对应回退消息章节
死信队列?
DLX,全称为 Dead-Letter-Exchange,死信交换器,死信邮箱。当消息在一个队列中变成死信 (dead message) 之后,它能被重新被发送到另一个交换器中,这个交换器就是 DLX,绑定 DLX 的队列就称之为死信队列。
导致的死信的几种原因?
- 消息被拒(
Basic.Reject /Basic.Nack
)且requeue = false
。 - 消息 TTL 过期。
- 队列满了,无法再添加。
延迟队列?
存储对应的延迟消息,指当消息被发送以后,并不想让消费者立刻拿到消息,而是等待特定时间后,消费者才能拿到这个消息进行消费。
优先级队列?
- 优先级高的队列会先被消费。
- 可以通过
x-max-priority
参数来实现。 - 当消费速度大于生产速度且 Broker 没有堆积的情况下,优先级显得没有意义
事务机制?
RabbitMQ 客户端中与事务机制相关的方法有三个:
channel.txSelect
用于将当前的信道设置成事务模式。channel.txCommit
用于提交事务。channel.txRollback
用于事务回滚,如果在事务提交执行之前由于 RabbitMQ 异常崩溃或者其他原因抛出异常,通过txRollback
来回滚。
发送确认机制?
生产者把信道设置为 confirm 确认模式,设置后,所有再改信道发布的消息都会被指定一个唯一的 ID,一旦消息被投递到所有匹配的队列之后,RabbitMQ 就会发送一个确认(Basic.Ack
) 给生产者(包含消息的唯一 ID),这样生产者就知道消息到达对应的目的地了。
消费者获取消息的方式?
- 推
- 拉
消费者某些原因无法处理当前接受的消息如何来拒绝?
channel.basicNack
channel.basicReject
消息传输保证层级?
At most once
:最多一次。消息可能会丢失,但不会重复传输。At least once
:最少一次。消息绝不会丢失,但可能会重复传输。Exactly once
:恰好一次,每条消息肯定仅传输一次。
了解 Virtual Host 吗?
每一个 RabbitMQ 服务器都能创建虚拟的消息服务器,也叫虚拟主机 (virtual host),简称 vhost。默认为 “/”
。
集群中的节点类型?
- 内存节点:ram, 将变更写入内存。
- 磁盘节点:disc, 磁盘写入操作。
RabbitMQ 要求最少有一个磁盘节点。
队列结构?
通常由以下两部分组成:
rabbit_amqqueue_process
: 负责协议相关的消息处理,即接收生产者发布的消息、向消费者交付消息、处理消息的确认 (包括生产端的 confirm 和消费端的 ack) 等。backing_queue
: 是消息存储的具体形式和引擎,并向rabbit amqqueue process
提供相关的接口以供调用。
RabbitMQ 中消息可能有的几种状态?
alpha
: 消息内容 (包括消息体、属性和 headers) 和消息索引都存储在内存中 。beta
: 消息内容保存在磁盘中,消息索引保存在内存中。gamma
: 消息内容保存在磁盘中,消息索引在磁盘和内存中都有 。delta
: 消息内容和索引都在磁盘中 。
在何种场景下使用了消息中间件?
- 接口之间耦合比较严重,中间加一层消息中间件解耦
- 面对大流量并发时,容易被冲垮
- 存在性能问题
生产者如何将消息可靠投递到 MQ?
- Client 发送消息给 MQ;
- MQ 将消息持久化后,发送 Ack 消息给 Client,此处有可能因为网络问题导致 Ack 消息无法发送到 Client,那么 Client 在等待超时后,会重传消息;
- Client 收到 Ack 消息后,认为消息已经投递成功。
MQ 如何将消息可靠投递到消费者?
- MQ 将消息 push 给 Client(或 Client 来 pull 消息)
- Client 得到消息并做完业务逻辑
- Client 发送 Ack 消息给 MQ,通知 MQ 删除该消息,此处有可能因为网络问题导致 Ack 失败,那么 Client 会重复消费,这里就引出消费幂等的问题;
- MQ 将已消费的消息删除
如何保证 RabbitMQ 消息队列的高可用?
RabbitMQ 有三种模式:单机模式,普通集群模式,镜像集群模式。
- 单机模式:就是 demo 级别的,一般就是你本地启动了玩玩儿的,没人生产用单机模式。
- 普通集群模式:意思就是在多台机器上启动多个 RabbitMQ 实例,每个机器启动一个。
- 镜像集群模式:这种模式,才是所谓的 RabbitMQ 的高可用模式,跟普通集群模式不一样的是,你创建的 queue,无论元数据 (元数据指 RabbitMQ 的配置数据) 还是 queue 里的消息都会存在于多个实例上,然后每次你写消息到 queue 的时候,都会自动把消息到多个实例的 queue 里进行消息同步。