Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
初秋大大
JavaGuide
提交
83519ffc
J
JavaGuide
项目概览
初秋大大
/
JavaGuide
与 Fork 源项目一致
从无法访问的项目Fork
通知
1
Star
1
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
1
列表
看板
标记
里程碑
合并请求
0
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
J
JavaGuide
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
1
Issue
1
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
体验新版 GitCode,发现更多精彩内容 >>
提交
83519ffc
编写于
10月 18, 2021
作者:
G
guide
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
Update Kafka常见面试题总结.md
上级
3d92eca2
变更
1
隐藏空白更改
内联
并排
Showing
1 changed file
with
12 addition
and
12 deletion
+12
-12
docs/system-design/distributed-system/message-queue/Kafka常见面试题总结.md
...m-design/distributed-system/message-queue/Kafka常见面试题总结.md
+12
-12
未找到文件。
docs/system-design/distributed-system/message-queue/Kafka常见面试题总结.md
浏览文件 @
83519ffc
...
...
@@ -207,18 +207,18 @@ acks 的默认值即为1,代表我们的消息被leader副本接收之后就
### Kafka 如何保证消息不重复消费
1.
**kafka出现消息重复消费的原因
**
*
服务端侧 已经消费的数据没有成功提交 offset(根本原因)
*
kafka 侧 由于服务端处理业务时间长或者网络链接等等原因让 kafka 认为服务假死,触发了分区 rebalance
2.
**解决方案**
*
最有效:消费消息服务做幂等校验,比如redis的set、mysql的主键等天然的幂等功能
*
将
**enable.auto.commit**
参数设置为 false,关闭自动提交,开发者在代码中手动提交 offset。那么这里会有个
<br>
问题:
**什么时候提交offset合适?**
*
处理完消息再提交:依旧有消息重复消费的风险,和自动提交一样
*
拉取到消息即提交:会有消息丢失的风险。允许消息延时的场景,一般会采用这种方式。然后通过定时任
<br>
务在业务不繁忙的时候做数据兜底,一般是基建较好的公司会通过大数据部门在晚上兜底
**kafka出现消息重复消费的原因:
**
-
服务端侧已经消费的数据没有成功提交 offset(根本原因)。
-
Kafka 侧 由于服务端处理业务时间长或者网络链接等等原因让 Kafka 认为服务假死,触发了分区 rebalance。
**解决方案:**
-
消费消息服务做幂等校验,比如 Redis 的set、MySQL 的主键等天然的幂等功能。这种方法最有效。
-
将
**`enable.auto.commit`**
参数设置为 false,关闭自动提交,开发者在代码中手动提交 offset。那么这里会有个问题:
**什么时候提交offset合适?**
*
处理完消息再提交:依旧有消息重复消费的风险,和自动提交一样
*
拉取到消息即提交:会有消息丢失的风险。允许消息延时的场景,一般会采用这种方式。然后,通过定时任务在业务不繁忙(比如凌晨)的时候做数据兜底。
### Reference
-
Kafka 官方文档: https://kafka.apache.org/documentation/
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录