作者:李伟

说起消息队列,ActiveMQ、RabbitMQ、RocketMQ、Kafka、Pulsar 等纷纷涌入我们的脑海中, 在如此众多的开源消息队列产品中,作为一名合格的架构师如何给出高性价比的方案呢?商业化的产品暂不纳入选项中。

接下来我将从选型要素、RocketMQ 的优势两个方面解释为什么选择 RocketMQ 。​

选型要素

​首先从公司、消息队列服务提供者(一般是中间件团队)、最终用户三个角度来简单总结分析。​

一、从公司层面看, 关注如下几点:

1. 技术成本​技术成本,一般包含服务器成本、二次开发成本、后期维护成本等,言而总之:都是钱。

服务器目前基本都使用云服务器,不同的云厂商的相同配置的服务器性能也有一定差异, 服务器成本一般需要了解:云厂商机器性能、云厂商优惠、所需服务器配置、服务器台数、单台服务器目前的价格、单台服务器优惠后的价格等。​2. 人力成本​人力成本,一般包含现有技术人员成本、新人招聘成本。​新的技术选型对于目前的技术人员接受程度怎么样,学习的难易程度怎样等,都是需要考虑的。如果太难的话,上线周期会变长、业务需求实现速度慢,甚至有人直接离职。

新人招聘成本,一般招聘一个新人有如下几个过程:简历筛选、预约面试、数轮面试、发 offer 、接受 offer 、正式入职、试用期、转正。这中间涉及到猎头成本、人力资源沟通成本、面试成本、新人入职后环境适应成本等等。​3. 其他​目前处于不同阶段的互联网公司对于技术成本、人力成本有着不一样的要求,但是很多有一定规模的公司实际上还是用“买买买”的心态来对待的:只要业务发展快速,买服务器、招人都不是问题,如果成本高了就做技术降成本、裁员。这不仅是员工之痛,也是业务之痛,更是公司之痛。​

二、从中间件组层面看, 关注如下几点:

1. 稳定​公司级的服务首要的一点就是稳定。拥有稳定的组件、稳定的服务,业务才能有条不紊的进行。所以说,无论什么时候, 稳定都是王道。​2. 功能支持

不同的业务场景需要的功能也不尽相同,通常我们会考虑重试、死信机制,位点重置,定时延迟消息、事物消息,主从切换,权限控制等方面。​3. 性能​目前包含写入延迟和吞吐。​4. 管理平台​首先需要满足最终用户接入、查看、排障,管理员管控 topic 、消费者方便等。管理平台有现成的最好,方便二次开发 。​5. 监控、报警​监控报警是否完善、是否方便接入公司内部自研体系,或者行业的事实标准 Prometheus 。​6. 运维 & 支持 & 开源社区​如果产品上线后, 大部分时间,我们都是在做运维 &支持。运维包含服务部署、迁移、服务升级、解决系统 Bug 、用户使用答疑、管理平台和监控报警平台升级等。​7. 其他​我们除了依赖自身以外,也可以借助社区的力量,同一个问题可能别人遇到过并且提交过 PR ,已经得到解决,我们就可以以此作为借鉴。所以社区的活跃情况也是非常重要的考虑。​

三、从最终用户(一般包含业务后端研发以及他们的 Leader )看

1. 稳定性​对于业务的研发和他们的 Leader ,他们的核心任务是实现业务逻辑。如果一个服务三天两头总是有问题, 对于他们来说是比较致命的,所以稳定性是比较核心的一部分。​2. 改造现有项目的难度​旧项目改造其实是业务研发接入新中间件实际操作最多的部分。​3. 新项目接入是否便捷​是否便捷接入跟他们的工作量有着直接的关联。​4. 与目前的 App 微服务框架兼容怎样​新项目的接入和公司微服务框架兼容都比较容易。一般中间件在提供服务时都会考虑业务研发接入的便利性。​

RocketMQ 的优势

​下面将按照选项要素的要求, 分析 RocketMQ 在这方面的优势。​

一、RocketMQ 如何解决和友好面对公司层面的诉求

1. 技术成本

对于 java 方面的消息队列方面的人才相比 C/C++、C#、Python、Go 等还是更多的:主流的 Kafka 是 scala + java、pulsar 是 java ,对于招聘也有极大的优势。​综合而言,RocketMQ 技术员对于人力成本比较友好。​

二、从中间件组层面看,RocketMQ 是如何提供优秀的能力,为业务保驾护航呢?

1. 稳定性​金融级可靠、阿里双十一稳定支持万亿级消息洪峰,在笔者之前所在公司也有过 2 年+零事故的佳绩。​2. 功能丰富,支持的场景众多

  • 重试、死信机制,友好、无感的业务重试机制。

  • 顺序消息、事物消息

  • 万级 Topic 数量支持

  • 消息过滤

  • 消息轨迹追踪

  • 主从自动切换

  • 原生支持 Prometheus 监控

  • 原生支持易用管理平台:RocketMQ Console

  • 访问权限控制(ACL)

3. 性能

  • RocketMQ 可以支持 99.9% 的写入延迟在 2 ms ,其他的开源消息队列中间件基本都是大于 5 ms ;目前大部分消息队列中间间都支持横向扩展,吞吐上横向扩展几乎都可以满足。RocketMQ 的在滴滴做的性能测试: _https://developer.aliyun.com/article/664608 _, 大家参考。

  • 发送、消费 tps 和 kafka 一个数量级,Topic 数量剧增对于性能影响较小。

4. 管理平台​RocketMQ Console 原生支持:https://github.com/apache/rocketmq-externals/tree/master/rocketmq-console5. 监控、报警​RocketMQ Exporter 原生支持 Prometheus:https://github.com/apache/rocketmq-exporter6. 运维 & 支持 & 开源社区

  • 无 zk 等第三方依赖,开箱即用

  • 社区钉钉群、微信群、QQ 群非常活跃,钉钉群、微信群有问必答。

  • 社区最近新来一位小姐姐 Commiter ,团队也在不断壮大。

综合看来,RocketMQ 稳定、可靠、性能好,开箱即用,不依赖 Zookeeper ,系统的稳定性更高,复杂度更小。监控报警等周边设施完善,场景支持全,社区活跃、文档丰富,是中间件团队的不二之选。​

三、对于最终用户:业务研发、业务研发 Leader,他们的核心担忧是提供的技术是否稳定可靠、是否快速方便的接入

​从中间件组层面看这个问题时,RocketMQ 稳定、可靠,那对于接入是否友好呢?​RocketMQ 提供 java 原生客户端、Spring 客户端,C++ 客户端、Python 客户端、Go 客户端等多类型、多语言的客户端,对于各种项目都可以统一接入。​微服务框架中 Spring Cloud 基本已经成为事实标准,RocketMQ 支持 Spring boot Starter 和 Spring Cloud Function 等多种方式融合入微服务框架,对于 Spring 体系支持更加方便快捷。​

Kafka vs RocketMQ

​实际中,很多人应该面临过 RocketMQ vs Kafka ,Kafka 适合对于延迟不敏感、批量型、Topic 数量可控、对于消息丢失不敏感的场景。比如大数据场景的 MySQL-2Hive、MySQL-2-Flink 的数据流通道,日志数据流通道等。

RocketMQ 适用于金融转账消息、订单状态变更消息、手机消息 Push 等业务场景。这些场景 Topic 数量通常过万,对于消息延迟和丢失极度敏感,数据通常是论条处理。对于海量数据的问题,一般地横向扩容完全可以解决。

合适的场景选择合适的产品,万能的产品是不存在的,都是折中,都是取舍。

作者介绍

​李伟,Apache RocketMQ 社区 Commiter ,Python 客户端项目负责人, Apache RocketMQ 北京社区联合发起人,Apache Doris Contributor 。目前就职于腾讯,主要负责 OLAP 数据库开发,对分布式存储系统设计和研发有丰富经验,也热衷于知识分享和社区活动。

RocketMQ 学习资料

​阿里云知行实验室提供一系列的 RocketMQ 在线实操环境,包含操作文档、ubuntu 实验环境,大家随时尝试玩玩:​

  • Apache RocketMQ 开源入门最佳实践:

https://start.aliyun.com/course?spm=a2ck6.17690074.0.0.53c52e7dSi19ML&id=eAz6VTK5

  • 在 Spring 生态中玩转 RocketMQ:

  • https://start.aliyun.com/course?spm=a2ck6.17690074.0.0.241e2e7d0aEIxJ&id=hzidp9W1

    其他资源

    • RocketMQ vs. ActiveMQ vs. Kafka:

    _ http://rocketmq.apache.org/docs/motivation/_

    • RocketMQ 源码:

    _ https://github.com/apache/rocketmq_

    • RocketMQ Exporter 源码:

    _ https://github.com/apache/rocketmq-exporter_

    • RocketMQ Spring 源码:

    _ https://github.com/apache/rocketmq-spring_

    • RocketMQ C++ 客户端源码:

    _ https://github.com/apache/rocketmq-client-cpp_

    • RocketMQ Python 客户端源码:

    _ https://github.com/apache/rocketmq-client-python_

    • RocketMQ Go 客户端源码:

    _ https://github.com/apache/rocketmq-client-go_

    • RocketMQ Console 源码:

    _ https://github.com/apache/rocketmq-externals/tree/master/rocketmq-console_

    • RocketMQ Flink Connector 源码:

    _ https://github.com/apache/rocketmq-externals/tree/master/rocketmq-flink_

    • RocketMQ 如何保证消息可靠:

    • 大揭秘!RocketMQ 如何管理消费进度:

    本文文字及图片出自 InfoQ

    余下全文(1/3)
    分享这篇文章:

    请关注我们:

    《消息中间件:为什么我们选择 RocketMQ》有1个想法

    1. admin  这篇文章, 并对这篇文章的反应是俺的神呀赞一个

    发表评论

    邮箱地址不会被公开。 必填项已用*标注