任务描述
需求描述
需求背景:目前爬虫出现数据堆积,需要优化性能
需求实现:
1、爬虫删除服务修改为分站点执行
1:根据站点查询对应站点异常的来源渠道
2:根据来源渠道及其站点遍历AmazonListingRemove_N 获取非成功删除的数据
3:查询的数据需要判断是否符合停产仿牌禁售删除条件
4:过滤打标表:isfba,isbrotherfba, 近30天有销量的数据
5、过滤在白名单有效期的数据
2、删除服务待验证数据二次验证服务改成分布式执行
验收标准
暂无
2:新增的脚本上线后自动执行
3:核心代码部分: