任务背景:
美客多在完成运维任务:35665 美客多listingAPI数量与后台差异大问题修复 2,35630 美客多listingAPI数量与后台差异大问题修复
已安排2月10日周末开始执行数据同步,当前数据差异在:72.75W+ 比较周五(2月10日)的差异130W,差异在缩小,缩小了57W
说明现在的全量是有效果的,目前的问题是全量数据同步量过大,跑的比较慢
任务内容:
(1)按照平台+来源渠道+CBTID维度过滤重复数据,去重数据(保留日期最大的一条),快速执行完成(先通过SQL执行)
(2)改造美客多的全量同步服务逻辑,不在使用中间表:m_mercadolibre_listing_productid,而是使用MQ消息模式同步
注意:直接本地环境部署,完成快速上线并消费数据
(3)美客多新全量同步服务需按照平台+CBTID维度,去掉重复数据,将同步状态(status=0)的数据,导入到MQ消息队列中,执行同步

