Advanced part of rabbitMQ

51CTO 2022-11-24 22:37:48 阅读数:627

advancedrabbitmq


RabbitMQ的高级特性

消息的可靠投递:

指的是由消息生产者发动到RabbitMQ中间件,这个过程是必须成功的.

在使用RabbitMQ的时候,作为消息发送方希望杜绝任何消息丢失或者投递失败的场景.RabbitMQ为我们提供了两种方式用来控制消息的投递可靠性机制.

confirm 确认模式:

rabbitmq的整个消息投递机制的路径为:

Producer--> rabbitmq broker --> exchange --> queue --> consumer

· 消息从Producer到exchange,则会返回一个confirmCallback.不管消息是否成功到达exchange,整个回调都会执行,只不过返回的布尔类型的值不同.

return 退回模式:

·它指的是exchange到queue,如果路由消息失败了,那么则会返回给交换机一个returnCallback的函数.

Cosumer ACK:

消息从RabbitMQ中间件中到消费端的确认机制.

有三种确认方式:

1、自动确认:acknowledge = "none"

2、手动确认:acknowledge = "manual"

3、根据异常情况确认:acknowledge = "auto"

其中,自动确认是指的是,当消息一旦被Consumer接收到,则自动确认收到,并将相应message从RabbitMQ的消息缓存中移除.但是在实际的业务处理中,很可能消息接收到,业务处理出现异常,那么则该消息丢失.如果设置了手动确认的方式,则需要在业务处理成功后,调用channel.basicAck(),手动签收;如果出现异常,则调用channel.basicNack()方法,让其自动重新发送消息.

小结:

1、首先要配置acknowledge的属性;

2、如果在消费端没有出现异常,channel.basicAck(deliveryTag,false);方法确认消息签收

3、如果出现异常,则在cache中捕获异常,调用basicNack或者basicReject来拒绝消息,让MQ重新发送;

消息的可靠性总结

1、持久化:exchange,queue,message要持久化

2、生产方式确认confirm

3、消费方式确认Ack

4、Broker高可用

消费端限流的处理:

去指定消费端处理的速率.

rabbitMQ的高级部分_发送消息

消息队列可以保证A系统稳定;或者是A系统维护期间,可以维持系统正常运行.

消费端限流的步骤:

1、首先要保证ack的机制为手动确认 acknowledge="manual"

2、listener-container的配置属性 prefetch="1",表示消费端每次从mq拉取一条消息来消费,直到手动确认消费完毕之后,才会拉取下一条消息.

​QosListener​


package com.pshdhx.listener; import com.rabbitmq.client.Channel; import org.springframework.amqp.core.Message; import org.springframework.amqp.rabbit.listener.api.ChannelAwareMessageListener; import org.springframework.stereotype.Component; /** * Consumer 限流机制 * 1. 确保ack机制为手动确认. * 2. listener-container配置属性 *     prefetch = 1,表示消费端每次从mq拉去一条消息来消费,直到手动确认消费完毕后,才会继续拉去下一条消息. */ @Component public class QosListener implements ChannelAwareMessageListener {    @Override    public void onMessage(Message message, Channel channel) throws Exception {        Thread.sleep(1000);        //1.获取消息        System.out.println(new String(message.getBody()));        //2. 处理业务逻辑        //3. 签收        channel.basicAck(message.getMessageProperties().getDeliveryTag(),true);   } }


TTL:过期的时间

TTL全程 time to live(存活时间/过期时间)

我们可以对消息设置一个存活时间,如果这个消息到达时间之后,这个消息还没有被消费,则会自动被清除.

RabbitMQ可以对消息设置过期时间,也可以对整个队列(Queue)设置过期时间.

设置队列过期时间使用参数x-message-ttl,单位ms,会对整个队列消息统一过期.

设置消息过期时间使用参数expiration.单位ms,当该消息在队列头部时(消费时),会单独判断这一个消息是否过期.

如果两者都进行了设置,以时间段的为准.

systemctl start rabbitmq-server

 ​http://192.168.48.128:15672/#/​

创建一个队列:

rabbitMQ的高级部分_发送消息_02

创建交换机

rabbitMQ的高级部分_rabbitmq_03

点进去交换机,绑定队列

rabbitMQ的高级部分_spring_04

创建消息,发布:

rabbitMQ的高级部分_spring_05

可以看到,消息在100s过后消失.

下面我们在代码中进行配置

spring-rabbitmq-producer.xml


<!--ttl-->    <rabbit:queue name="test_queue_ttl" id="test_queue_ttl">        <!--设置queue的参数-->        <rabbit:queue-arguments>            <!--x-message-ttl指队列的过期时间-->            <entry key="x-message-ttl" value="10000" value-type="java.lang.Integer"></entry>        </rabbit:queue-arguments>    </rabbit:queue> <!-- 绑定交换机和队列 --> <rabbit:topic-exchange name="test_exchange_ttl" >        <rabbit:bindings>            <rabbit:binding pattern="ttl.#" queue="test_queue_ttl"></rabbit:binding>        </rabbit:bindings> </rabbit:topic-exchange>


给队列发送消息,看看消息是否到达


/* for (int i = 0; i < 10; i++) {            // 发送消息            rabbitTemplate.convertAndSend("test_exchange_ttl", "ttl.hehe", "message ttl....");        }*/


设置单条消息的过期时间:


// 消息后处理对象,设置一些消息的参数信息       MessagePostProcessor messagePostProcessor = new MessagePostProcessor() {           @Override           public Message postProcessMessage(Message message) throws AmqpException {               //1.设置message的信息               message.getMessageProperties().setExpiration("5000");//消息的过期时间               //2.返回该消息               return message;           }       }; for (int i = 0; i < 10; i++) {           if(i == 5){               //消息单独过期               rabbitTemplate.convertAndSend("test_exchange_ttl", "ttl.hehe", "message ttl....",messagePostProcessor);           }else{               //不过期的消息               rabbitTemplate.convertAndSend("test_exchange_ttl", "ttl.hehe", "message ttl....");           }       }


如何消息队列和消息同时设置了过期时间,那么则以时间短的为准.

如果队列过期后,会将队列内所有的消息全部移除.

如果在一个队列里边,有10条消息,只有一个消息有过期时间,其他没有.判断消息是否过期,那么过一会就要轮询一次队列的消息,性能太低.rabbitmq这样处理:消息过期后,只有消息在队列顶端要被消费时,才会去判断其是否过期.如果过期了,就要马上移除掉.

换言之,这条消息如果没有在对列的顶端,他是不会被移除掉的.那将来有一天,它真正被消费的时候才会判断是否移除掉.

死信队列:

在很多消息中间件中都有死信队列的概念,但是在RabbitMQ中会稍微特殊一些;

死信队列,英文缩写:DLX,Dead Letter Exchange(死信交换机),当消息成为Dead message后,可以被重新发送到另外一个交换机,这个交换机就是DLX.

rabbitMQ的高级部分_发送消息_06

这个消息如果再过期时间内没有被消费掉,没有被消费的消息就会经过一个DLX的交换机,再重新发送给另外一个队列,也可以绑定一个队列被consumer消费掉.

那么一个正常的queue如何绑定一个死信交换机呢?

那么这个消息什么时候成为死信呢?

1、队列消息长度达到限制;【给一个队列设置了长度为10,11条消息进来的时候就是死信】

2、消费者拒绝接收消息,basicNack/baskReject,并且不把消息重新放入原目标队列,require=false;

3、原队列存在消息过期设置,消息到达超时时间未被消费.

rabbitMQ的高级部分_分布式_07

需要给普通队列指定好参数,才会送到死信交换机.

实质上死信队列和死信交换机都是普通的交换机而已,只不多是被正常的队列赋予了死信的属性,进而路由过去进行处理而已.


<!--    死信队列:        1. 声明正常的队列(test_queue_dlx)和交换机(test_exchange_dlx)        2. 声明死信队列(queue_dlx)和死信交换机(exchange_dlx)        3. 正常队列绑定死信交换机            设置两个参数:                * x-dead-letter-exchange:死信交换机名称                * x-dead-letter-routing-key:发送给死信交换机的routingkey -->    <!--        1. 声明正常的队列(test_queue_dlx)和交换机(test_exchange_dlx)    -->    <rabbit:queue name="test_queue_dlx" id="test_queue_dlx">        <!--3. 正常队列绑定死信交换机-->        <rabbit:queue-arguments>            <!--3.1 x-dead-letter-exchange:死信交换机名称-->            <entry key="x-dead-letter-exchange" value="exchange_dlx" />            <!--3.2 x-dead-letter-routing-key:发送给死信交换机的routingkey-->            <entry key="x-dead-letter-routing-key" value="dlx.hehe" />            <!--4.1 设置队列的过期时间 ttl-->            <entry key="x-message-ttl" value="10000" value-type="java.lang.Integer" />            <!--4.2 设置队列的长度限制 max-length -->            <entry key="x-max-length" value="10" value-type="java.lang.Integer" />        </rabbit:queue-arguments>    </rabbit:queue>    <rabbit:topic-exchange name="test_exchange_dlx">        <rabbit:bindings>            <rabbit:binding pattern="test.dlx.#" queue="test_queue_dlx"></rabbit:binding>        </rabbit:bindings>    </rabbit:topic-exchange>    <!--       2. 声明死信队列(queue_dlx)和死信交换机(exchange_dlx)   -->    <rabbit:queue name="queue_dlx" id="queue_dlx"></rabbit:queue>    <rabbit:topic-exchange name="exchange_dlx">        <rabbit:bindings>            <rabbit:binding pattern="dlx.#" queue="queue_dlx"></rabbit:binding>        </rabbit:bindings>    </rabbit:topic-exchange>


测试死信队列生产端:


/** * 发送测试死信消息: * 1. 过期时间 * 2. 长度限制 * 3. 消息拒收 */ @Test public void testDlx(){    //1. 测试过期时间,死信消息    //rabbitTemplate.convertAndSend("test_exchange_dlx","test.dlx.haha","我是一条消息,我会死吗?");    //2. 测试长度限制后,消息死信   /* for (int i = 0; i < 20; i++) {        rabbitTemplate.convertAndSend("test_exchange_dlx","test.dlx.haha","我是一条消息,我会死吗?");    }*/    //3. 测试消息拒收    rabbitTemplate.convertAndSend("test_exchange_dlx","test.dlx.haha","我是一条消息,我会死吗?"); }


消息拒收的消费端:


<!--定义监听器,监听正常队列--> <!--<rabbit:listener ref="dlxListener" queue-names="test_queue_dlx"></rabbit:listener>-->


package com.pshdhx.listener; import com.rabbitmq.client.Channel; import org.springframework.amqp.core.Message; import org.springframework.amqp.rabbit.listener.api.ChannelAwareMessageListener; import org.springframework.stereotype.Component; @Component public class DlxListener implements ChannelAwareMessageListener {    @Override    public void onMessage(Message message, Channel channel) throws Exception {        long deliveryTag = message.getMessageProperties().getDeliveryTag();        try {            //1.接收转换消息            System.out.println(new String(message.getBody()));            //2. 处理业务逻辑            System.out.println("处理业务逻辑...");            int i = 3/0;//出现错误            //3. 手动签收            channel.basicAck(deliveryTag,true);       } catch (Exception e) {            //e.printStackTrace();            System.out.println("出现异常,拒绝接受");            //4.拒绝签收,不重回队列 requeue=false            channel.basicNack(deliveryTag,true,false);       }   } }


延迟队列:

延迟队列:即消息进入队列后不会立即被消费,只有到达指定时间后,才会被消费.

用TTL+死信队列来实现延迟队列的场景.

需求:

1、下单后,30分钟未支付,取消订单,回滚库存;

2、新用户注册成功后的第七天,发短信问候.

怎么感觉类似定时任务呢?错了,定时任务是未来时,延迟队列会对现有的数据发生影响.例如第一条.

实现方式

1、定时器,【轮询订单表的数据,看看订单的状态是否被支付】使用定时器并不优雅;轮询的时间呢?

2、延迟队列

rabbitMQ的高级部分_发送消息_08

很可惜,在RabbitMQ当中并未提供延迟队列的功能.

但是可以使用:TTL+死信队列组合实现延迟队列的效果.

具体代码:

1、定义正常交换机和正常队列

2、定义死信交换机和死信队列

3、给正常交换机绑定死信交换机,死信路由key,过期时间.


<!-- 1. 定义正常交换机(order_exchange)和队列(order_queue)--> <rabbit:queue id="order_queue" name="order_queue"> <!-- 3. 绑定,设置正常队列过期时间为30分钟--> <rabbit:queue-arguments> <entry key="x-dead-letter-exchange" value="order_exchange_dlx" /> <entry key="x-dead-letter-routing-key" value="dlx.order.cancel" /> <entry key="x-message-ttl" value="10000" value-type="java.lang.Integer" /> </rabbit:queue-arguments> </rabbit:queue> <rabbit:topic-exchange name="order_exchange"> <rabbit:bindings> <rabbit:binding pattern="order.#" queue="order_queue"></rabbit:binding> </rabbit:bindings> </rabbit:topic-exchange> <!-- 2. 定义死信交换机(order_exchange_dlx)和队列(order_queue_dlx)--> <rabbit:queue id="order_queue_dlx" name="order_queue_dlx"></rabbit:queue> <rabbit:topic-exchange name="order_exchange_dlx"> <rabbit:bindings> <rabbit:binding pattern="dlx.order.#" queue="order_queue_dlx"></rabbit:binding> </rabbit:bindings> </rabbit:topic-exchange>


生产者测试方法:


@Test public void testDelay() throws InterruptedException { //1.发送订单消息. 将来是在订单系统中,下单成功后,发送消息 rabbitTemplate.convertAndSend("order_exchange","order.msg","订单信息:id=1,time=2019年8月17日16:41:47"); /*//2.打印倒计时10秒 for (int i = 10; i > 0 ; i--) { System.out.println(i+"..."); Thread.sleep(1000); }*/ }


消费者配置:


package com.pshdhx.listener; import com.rabbitmq.client.Channel; import org.springframework.amqp.core.Message; import org.springframework.amqp.rabbit.listener.api.ChannelAwareMessageListener; import org.springframework.stereotype.Component; @Component public class OrderListener implements ChannelAwareMessageListener { @Override public void onMessage(Message message, Channel channel) throws Exception { long deliveryTag = message.getMessageProperties().getDeliveryTag(); try { //1.接收转换消息 System.out.println(new String(message.getBody())); //2. 处理业务逻辑 System.out.println("处理业务逻辑..."); System.out.println("根据订单id查询其状态..."); System.out.println("判断状态是否为支付成功"); System.out.println("取消订单,回滚库存...."); //3. 手动签收 channel.basicAck(deliveryTag,true); } catch (Exception e) { //e.printStackTrace(); System.out.println("出现异常,拒绝接受"); //4.拒绝签收,不重回队列 requeue=false channel.basicNack(deliveryTag,true,false); } } }


消费者配置:【消费者监听的一定是死信队列,否则消息一下子就过来了,然后处理,起不到延迟队列的作用】


<!--延迟队列效果实现: 一定要监听的是 死信队列!!!--> <!-- <rabbit:listener ref="orderListener" queue-names="order_queue_dlx"></rabbit:listener>-->


小结:

1、延迟队列指的是消息进入队列后,可以被延迟一段指定时间,再被消费.

2、RabbitMQ没有提供延迟队列的功能,但是可以使用TTL+DLX来实现延迟队列的效果.

日志与监控:

RabbitMQ的日志呢,默认存放在/var/log/rabbitmq/[email protected]下;

rabbitMQ的高级部分_spring_09

管理权限,角色等功能.

可以根据官网提供的docs文档来学习:

 ​Documentation: Table of Contents — RabbitMQ​

RabbitMQ的应用问题

消息的可靠性保障:

消息投递失败后怎么处理?

在任何使用消息中间件的过程中,难免会出现某一条消息丢失的情况.对于RabbitMQ而言,可能是因为生产者或者是消费者与RabbitMQ断开了连接,而他们与RabbitMQ又采用了不同的确认机制;也有可能是因为交换器和队列之间不同的转发策略;甚至是

交换器并没有与任何队列进行绑定,生产者又不需要感知或者没有采取相应的措施;另外RabbitMQ本身的集群策略也可能导致消息的丢失.这个时候需要有一个较好的机制来追踪消息的投递过程,以协助开发人员和运维人员进行问题的定位.

在rabbitMQ中可以使用Firehose和rabbitmq_tracing插件功能来实现消息追踪;

启动rabbitMQ的日志追踪功能:

1、如果没有启动,那么则是发送几条消息,就是几条消息.

2、如果启动了追踪功能,那么则是自己发送几条消息到队列,默认绑定的交换机则发送几条日志信息到队列,自己发送的消息可能会丢失,但是默认交换机发送的日志消息不会丢失.

rabbitmqctl trace_on/off

启用图形化插件:

rabbitmq-plugins enable rabbitmq_tracing

rabbitMQ的高级部分_java_10

rabbitMQ的高级部分_rabbitmq_11

rabbitMQ的高级部分_发送消息_12

1、创建队列;2、绑定trace的交换器;3、在队列发布消息

但是要注意,开启消息追踪的功能,rabbitmq的性能会下降很多,记得关闭.

消息的幂等性处理:

就是消息的重复消费的问题.

rabbitMQ的高级部分_rabbitmq_13

幂等性:不管运行多少次,都要与第一次的运行结果相同.第二次,第三次运行的结果不能产生任何改变.

代码笔记上传:

 ​https://gitee.com/pan_shengdong/RabbitMQ_Advance_Use​

版权声明:本文为[51CTO]所创,转载请带上原文链接,感谢。 https://javamana.com/2022/328/202211242232389809.html