最新消息: USBMI致力于为网友们分享Windows、安卓、IOS等主流手机系统相关的资讯以及评测、同时提供相关教程、应用、软件下载等服务。

kafka(一:分区数据不均衡(数据倾斜),分区分配策略)

维修 admin 46浏览 0评论

kafka(一:分区数据不均衡(数据倾斜),分区分配策略)

一:数据倾斜,导致各个分区数据不均匀。最终导致kafka堵塞,数据消费不动。

第一步:先停掉kafka中,上游和下游的代码,对分配数据较多的分区进行重新分配。

二:重新修改进入kafka的代码,防止进行后期继续发生数据倾斜。

可以设置一个新的列,根据这个列进行hash。

三:kafka默认自动存储在zk中。如果想存储到其他地方,例如mysql,需要手动进行修改。

kafka(一:分区数据不均衡(数据倾斜),分区分配策略)

一:数据倾斜,导致各个分区数据不均匀。最终导致kafka堵塞,数据消费不动。

第一步:先停掉kafka中,上游和下游的代码,对分配数据较多的分区进行重新分配。

二:重新修改进入kafka的代码,防止进行后期继续发生数据倾斜。

可以设置一个新的列,根据这个列进行hash。

三:kafka默认自动存储在zk中。如果想存储到其他地方,例如mysql,需要手动进行修改。

发布评论

评论列表 (0)

  1. 暂无评论