任务描述

1.背景:

  消息队列执行成功的数据,保存太久太多影响webapi的性能,占用了存储空间,未来形成数据逻辑闭环,需要清除。


2.任务描述:

各平台保存MQ消息表执行成功的数据(status=1)删除服务:逻辑:


1.从mq_msg_fail_config 里获取队列表名BusinessTable 列表;
2.循环列表,删除已执行成功的前7天的所有队列数据
delete m_shopeev2_synclisting(BusinessTable)
where `Status`=1 and LastModificationTime < (nowdate - 7天)
3.删除前手动检测确认一下各BusinessTable 里的status=1 是执行成功的状态,只删除执行成功的数据(0:初始状态;1执行成功;2执行失败)

历史记录  
  1. 2023-02-24 10:32:21, 由 陈少军 创建。
  2. 2023-02-24 10:32:38, 由 陈少军 指派给 朱思文。
    修改了 预计剩余,旧值为 "0",新值为 "4"。
  3. 2023-02-27 18:21:33, 由 朱思文 启动。
    修改了 实际开始,旧值为 "0000-00-00 00:00:00",新值为 "2023-02-27 18:21:11"。
    修改了 总计消耗,旧值为 "0",新值为 "2"。
    修改了 任务状态,旧值为 "wait",新值为 "doing"。
    1.调度配置已经修改,后续在观察
  4. 2023-02-27 18:21:38, 由 朱思文 完成。
    修改了 总计消耗,旧值为 "2",新值为 "4"。
    修改了 指派给 ,旧值为 "zhusiwen",新值为 "chenshaojun"。
    修改了 实际完成,旧值为 "",新值为 "2023-02-27 18:21:35"。
    修改了 任务状态,旧值为 "doing",新值为 "done"。
    修改了 预计剩余,旧值为 "4",新值为 "0"。
    修改了 由谁完成,旧值为 "",新值为 "zhusiwen"。
  5. 2023-04-03 11:23:14, 由 陈少军 编辑。
    修改了 所属迭代,旧值为 "680",新值为 "626"。
    修改了 所属模块,旧值为 "1659",新值为 "0"。
  6. 2023-06-26 13:47:14, 由 陈少军 添加备注。

    后面组长安排每个月执行1次这个队列表的归档:否则表数据量大了,业务跑不动

    select * from  mq_msg_fail_config

    select count(*) from m_shopeev2_synclisting           -- 27496715  2.7千万
    select count(*) from m_mercadolibre_synclisting       -- 187906359 1.8亿
    select count(*) from m_allegro_synclisting            -- 110074492 1.1亿 (status=0 4017908)
    select count(*) from m_allegro_synclisting where status=0 -- 4017908
    select count(*) from m_aliexpress_synclisting         -- 28685541  2.8千万
    select count(*) from m_allegro_syncautopublish        -- 10978450  1.09千万
    select count(*) from m_mercadolibre_syncautopublish   -- 17147625  1.7千万

  7. 2023-06-29 09:57:46, 由 陈少军 添加备注。

    归档后数据对比,是否还可以把状态!=0的 7天前的数据在归档一下:

    select count(*) from m_shopeev2_synclisting           -- 27496715  2.7千万         归档后  298.8322 万
    select count(*) from m_mercadolibre_synclisting       -- 187906359 1.8亿          归档后  8772.6619 万
    select count(*) from m_allegro_synclisting            -- 110074492 1.1亿                归档后  1510.5761 万
    select count(*) from m_aliexpress_synclisting         -- 28685541  2.8千万           归档后 1684.5450 万
    select count(*) from m_allegro_syncautopublish        -- 10978450  1.09千万     归档后 1257.219 万
    select count(*) from m_mercadolibre_syncautopublish   -- 17147625  1.7千万  归档后 1412.6617 万

  8. 2023-10-31 14:53:15, 由 周杰 关闭。
    修改了 任务状态,旧值为 "done",新值为 "closed"。
    修改了 指派给 ,旧值为 "chenshaojun",新值为 "closed"。
    修改了 由谁关闭,旧值为 "",新值为 "zhoujie"。
    修改了 关闭时间,旧值为 "0000-00-00 00:00:00",新值为 "2023-10-31 14:53:15"。
    修改了 关闭原因,旧值为 "",新值为 "done"。
所属迭代 系统管理部 - 系统服务优化
所属模块 /
相关需求 暂无
指派给 Closed 于 2023-10-31 14:53:15
任务类型 运维
任务标签 初始
开发组 有品开发组
任务状态 已关闭
进度 100%
优先级 P2
关键词
抄送给 程伟 刘瀚泽
由谁创建 陈少军 于 2023-02-24 10:32:21
由谁完成 朱思文 于 2023-02-27 18:21:35
由谁取消 暂无
由谁关闭 周杰 于 2023-10-31 14:53:15
关闭原因 已完成
最后编辑 周杰 于 2023-10-31 14:53:15
团队 最初预计 总计消耗 预计剩余
工时信息
最初预计 0工时
总计消耗 4工时
预计剩余 0工时
预计开始 2023-02-24
实际开始 2023-02-27
截止日期 2023-02-24