一、背景
目前重生标题快递迭代系统还未切换到qwen3-32B模型,目前测试效果32B模型相比chat GPT 4.1mini 模型效果相差不大。故需要切换模型节省成本。
业务价值:重生标题,每月通过chat GPT 4.1mini 刷标题需要花费30w,平均花费1.3w rmb/天;若全部切换成32B模型平均花费94rmb/天;(2张L20 :2800/月)节省139倍成本约34w/月。
二、需求说明
重生标题快递迭代系统还未切换到qwen3-32B模型
操作位置:重生标题快速迭代系统--》生成逻辑:实时调用qwen3-32B模型生成标题。
方案:
1、新增的内容包括增加实体抽取。
2、灰度测试系统加上qwen3-32B大模型实时生成的功能。
3、使用统一资料库的rerank和翻译数据。