●生产者发送的消息未送达exchange
●消息到达exchange后未到达queue
●MQ宕机,queue将消息丢失
●consumer接收到消息后未消费就宕机
针对这些问题,RabbitMQ分别给出了解决方案:
●生产者确认机制
●mq持久化
●消费者确认机制
●失败重试机制
●消息成功投递到交换机,返回ack
●消息未投递到交换机,返回nack
●publisher-return,发送者回执
●消息投递到交换机了,但是没有路由到队列。返回ACK,及路由失败原因。
spring:说明:
rabbitmq:
publisher-confirm-type: correlated
publisher-returns: true
template:
mandatory: true
●publish-confirm-type:开启publisher-confirm,这里支持两种类型:
●simple:同步等待confirm结果,直到超时
●correlated:异步回调,定义ConfirmCallback,MQ返回结果时会回调这个ConfirmCallback
●publish-returns:开启publish-return功能,同样是基于callback机制,不过是定义ReturnCallback
●template.mandatory:定义消息路由失败时的策略。true,则调用ReturnCallback;false:则直接丢弃消息
@Slf4j
@Configuration
public class CommonConfig implements ApplicationContextAware {
@Override
public void setApplicationContext(ApplicationContext applicationContext) throws BeansException {
// 获取RabbitTemplate
RabbitTemplate rabbitTemplate = applicationContext.getBean(RabbitTemplate.class);
// 设置ReturnCallback
rabbitTemplate.setReturnCallback((message, replyCode, replyText, exchange, routingKey) -> {
// 投递失败,记录日志
log.info("消息发送失败,应答码{},原因{},交换机{},路由键{},消息{}",
replyCode, replyText, exchange, routingKey, message.toString());
// 如果有业务需要,可以重发消息
});
}
}
public void testSendMessage2SimpleQueue() throws InterruptedException {
// 1.消息体
String message = "hello, spring amqp!";
// 2.全局唯一的消息ID,需要封装到CorrelationData中
CorrelationData correlationData = new CorrelationData(UUID.randomUUID().toString());
// 3.添加callback
correlationData.getFuture().addCallback(
result -> {
if(result.isAck()){
// 3.1.ack,消息成功
log.debug("消息发送成功, ID:{}", correlationData.getId());
}else{
// 3.2.nack,消息失败
log.error("消息发送失败, ID:{}, 原因{}",correlationData.getId(), result.getReason());
}
},
ex -> log.error("消息发送异常, ID:{}, 原因{}",correlationData.getId(),ex.getMessage())
);
// 4.发送消息
rabbitTemplate.convertAndSend("task.direct", "task", message, correlationData);
// 休眠一会儿,等待ack回执
Thread.sleep(2000);
}
●队列持久化
●消息持久化
@Bean事实上,默认情况下,由SpringAMQP声明的交换机都是持久化的。
public DirectExchange simpleExchange(){
// 三个参数:交换机名称、是否持久化、当没有queue与其绑定时是否自动删除
return new DirectExchange("simple.direct", true, false);
}
@Bean事实上,默认情况下,由SpringAMQP声明的队列都是持久化的。
public Queue simpleQueue(){
// 使用QueueBuilder构建队列,durable就是持久化的
return QueueBuilder.durable("simple.queue").build();
}
●auto:自动ack,由spring监测listener代码是否出现异常,没有异常则返回ack;抛出异常则返回nack
●none:关闭ack,MQ假定消费者获取消息后会成功处理,因此消息投递后立即被删除
由此可知:
●none模式下,消息投递是不可靠的,可能丢失
●auto模式类似事务机制,出现异常时返回nack,消息回滚到mq;没有异常,返回ack
●manual:自己根据业务情况,判断什么时候该ack
一般,我们都是使用默认的auto即可。
spring:修改consumer服务的SpringRabbitListener类中的方法,模拟一个消息处理异常:
rabbitmq:
listener:
simple:
acknowledge-mode: none # 关闭ack
@RabbitListener(queues = "simple.queue")测试可以发现,当消息处理抛异常时,消息依然被RabbitMQ删除了。
public void listenSimpleQueue(String msg) {
log.info("消费者接收到simple.queue的消息:【{}】", msg);
// 模拟异常
System.out.println(1 / 0);
log.debug("消息处理完成!");
}
spring:在异常位置打断点,再次发送消息,程序卡在断点时,可以发现此时消息状态为unack(未确定状态):
rabbitmq:
listener:
simple:
acknowledge-mode: auto # 关闭ack
spring:重启consumer服务,重复之前的测试。可以发现:
rabbitmq:
listener:
simple:
retry:
enabled: true # 开启消费者失败重试
initial-interval: 1000 # 初识的失败等待时长为1秒
multiplier: 1 # 失败的等待时长倍数,下次等待时长 = multiplier * last-interval
max-attempts: 3 # 最大重试次数
stateless: true # true无状态;false有状态。如果业务中包含事务,这里改为false
●查看RabbitMQ控制台,发现消息被删除了,说明最后SpringAMQP返回的是ack,mq删除消息了
结论:
●开启本地重试时,消息处理过程中抛出异常,不会requeue到队列,而是在消费者本地重试
●重试达到最大次数后,Spring会返回ack,消息会被丢弃
●ImmediateRequeueMessageRecoverer:重试耗尽后,返回nack,消息重新入队
●RepublishMessageRecoverer:重试耗尽后,将失败消息投递到指定的交换机
比较优雅的一种处理方案是RepublishMessageRecoverer,失败后将消息投递到一个指定的,专门存放异常消息的队列,后续由人工集中处理。
1)在consumer服务中定义处理失败消息的交换机和队列
@Bean2)定义一个RepublishMessageRecoverer,关联队列和交换机
public DirectExchange errorMessageExchange(){
return new DirectExchange("error.direct");
}
@Bean
public Queue errorQueue(){
return new Queue("error.queue", true);
}
@Bean
public Binding errorBinding(Queue errorQueue, DirectExchange errorMessageExchange){
return BindingBuilder.bind(errorQueue).to(errorMessageExchange).with("error");
}
@Bean完整代码:
public MessageRecoverer republishMessageRecoverer(RabbitTemplate rabbitTemplate){
return new RepublishMessageRecoverer(rabbitTemplate, "error.direct", "error");
}
@Configuration
public class ErrorMessageConfig {
@Bean
public DirectExchange errorMessageExchange(){
return new DirectExchange("error.direct");
}
@Bean
public Queue errorQueue(){
return new Queue("error.queue", true);
}
@Bean
public Binding errorBinding(Queue errorQueue, DirectExchange errorMessageExchange){
return BindingBuilder.bind(errorQueue).to(errorMessageExchange).with("error");
}
@Bean
public MessageRecoverer republishMessageRecoverer(RabbitTemplate rabbitTemplate){
return new RepublishMessageRecoverer(rabbitTemplate, "error.direct", "error");
}
}
●开启持久化功能,确保消息未消费前在队列中不会丢失
●开启消费者确认机制为auto,由spring确认消息处理成功后完成ack
●开启消费者失败重试机制,并设置MessageRecoverer,多次重试失败后将消息投递到异常交换机,交由人工处理
免责申明:
本文系转载,版权归原作者所有,如若侵权请联系我们进行删除!
《数据治理行业实践白皮书》下载地址:https://fs80.cn/4w2atu
《数栈V6.0产品白皮书》下载地址:https://fs80.cn/cw0iw1
想了解或咨询更多有关袋鼠云大数据产品、行业解决方案、客户案例的朋友,浏览袋鼠云官网:https://www.dtstack.com/?src=bbs
同时,欢迎对大数据开源项目有兴趣的同学加入「袋鼠云开源框架钉钉技术群」,交流最新开源技术信息,群号码:30537511,项目地址:https://github.com/DTStack