You can not select more than 25 topics
Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
wanghanlin
062ef0cf57
feat(pipeline): 新增 AI 执行链节点开关,后台可关闭首 token 前的耗时节点
默认 MULTI_QUERY 策略下,一次对话在产出首个 token 前需串行执行意图路由 LLM
分类(1 次 LLM)、查询重写(1 次 LLM + 4 路 embedding)、FAQ 语义匹配(0~2 次
embedding),是「AI 回复慢」的主因。现提供可后台配置的开关按需关闭。
- 新增 PipelineToggleService:4 个开关落 system_config,用 volatile 不可变
快照读取(ApplicationReadyEvent 载入 + 写时整体重建),规避
SystemConfigService 无缓存直查在 hot path 上每请求 3~4 次的开销;
保存后即时生效,无需重启、无需清缓存
- 新增 PipelineToggleController:GET/PUT /pipeline-toggle(admin)
- ChatPipeline.routeIntent 可跳过 LLM 意图分类;删除无调用点的死代码
shouldBypassRag(内部会重复触发一次意图 LLM 调用)
- RagPipeline 可关闭查询重写、可将 MULTI_QUERY 降级为单路检索,两者复用
rewriteQuery 既有的「未知策略返回原文」降级分支,不新增代码路径
- FaqMatchEngine 可跳过第三级语义匹配,保留无网络调用的精确/关键词匹配
- PipelineFlow.vue 新增开关面板与极速/均衡/精准预设,被关闭的节点在流程图
上置灰虚线;菜单项限制为 admin
- 种子数据默认全部 true,保持升级后行为与改动前完全一致;
DatabaseInitConfig 与 init-database.sql 已同步
|
3 weeks ago |
| .. |
|
wrapper
|
初始化spring boot项目,测试spring ai框架是否能正常调用ai大模型
|
1 year ago |