用 Coze 搭建 RAG 问答助手:完整实战(以“问史通”为例)

张开发
2026/4/21 12:27:21 15 分钟阅读

分享文章

用 Coze 搭建 RAG 问答助手:完整实战(以“问史通”为例)
一、项目背景最近我用 Coze 搭了一个中国近现代史问答助手——问史通。它的目标很明确基于知识库检索结果回答问题而不是自由发挥。这样做的好处是回答更聚焦适合课程学习与知识问答能把回答范围限定在上传资料内减少“幻觉”方便后续扩展成专题型、课程型或考试型助手这篇文章我会完整记录一下“问史通”的搭建过程包括为什么要选择 Coze 来做这类应用“问史通”的整体设计思路知识库、工作流、对话配置的搭建过程中途踩过的坑和排查思路最终效果演示适合继续优化的方向如果你也想做一个面向垂直知识库的问答助手这个流程基本可以直接复用。二、项目目标与产品定位“问史通”的定位不是一个泛知识聊天机器人而是一个基于中国近现代史知识库的问答助手。我的预期能力主要包括回答历史事件如鸦片战争、五四运动、辛亥革命等回答背景与影响如某事件发生原因、历史意义、社会影响回答概念型问题如“为什么说中国是半殖民地半封建社会”回答总结型问题如“中国近代化探索为什么屡次失败”为了保证回答可控我给它设定了一个核心原则回答尽量基于知识库检索结果如果资料不足就明确说明“根据现有资料无法完整回答”。这也是整个搭建过程里最关键的一条设计原则。三、为什么选择 Coze之所以选择 Coze主要有三个原因上手快Coze 把知识库、工作流、大模型、对话体验这些能力都做成了可视化组件。对于想快速验证一个想法的人来说门槛非常低。适合做 RAG 类助手“问史通”本质上就是一个典型的 RAG检索增强生成 应用– 用户提问– 先查知识库– 再把检索结果交给模型生成答案Coze 的“知识库检索节点 大模型节点 结束节点”这套组合正好适合这个场景。调试体验比较顺手在工作流调试时可以直接看到– 输入变量– 知识库检索结果– 模型入参– 模型输出– 最终返回结果对于排查“到底是没检索到还是模型没吃进去检索结果”这类问题非常有帮助。四、准备工作知识库素材整理在正式搭建之前我先准备了“问史通”的知识库内容。这里我主要使用了两类资料原始学习资料比如《中国近现代史》相关 PDF 文档。结构化摘要资料 据原PDF文档AI 生成我又额外整理了一份更适合检索的 Markdown 版知识摘要把内容按以下结构梳理– 时间划分– 历史主线– 两大历史任务– 半殖民地半封建社会– 列强侵略方式– 社会阶级变化–近 代化探索– 新民主主义革命– 抗日战争与解放战争– 社会主义建设与发展这样做的原因很简单原始 PDF 适合保留全量信息结构化摘要适合提升检索命中率与召回质量。也就是说知识库不是“只传一个 PDF 就结束了”而是应该尽量让内容既有原始材料又有面向问答的整理版。五、知识库搭建过程在 Coze 的资源库里我建立了与“问史通”相关的历史知识库资源比如中国近现代史中国近现代史-RAG优化版这里“RAG 优化版”是一个很重要的思路不是单纯上传资料而是根据问答场景去优化知识库内容。我的做法是保留原始资料保证信息完整再做一个面向检索的优化版在工作流的知识库检索节点里同时挂载两个知识库检索策略选择偏混合/综合的方式尽量兼顾召回与准确性这样做之后针对“鸦片战争的影响”“半殖民地半封建社会”这类问题检索效果会明显比单独传一个大 PDF 更稳定。六、工作流设计思路“问史通”的工作流整体并不复杂核心就是一个三段式流程开始 → 知识库检索 → 大模型 → 结束具体来说开始节点接收用户输入得到 USER_INPUT。知识库检索节点把用户问题作为 Query 传入知识库检索节点得到 outputList。大模型节点把用户原始问题和知识库检索结果一并传给大模型让模型基于检索结果作答。结束节点把模型输出结果返回给用户。从结构上看这其实就是最经典的一条 RAG 链路。七、第一版工作流的配置方式我一开始的配置思路是这样的开始节点输入USER_INPUT知识库检索节点Query开始.USER_INPUT大模型节点input开始.USER_INPUToutput知识库检索.outputList结束节点返回大模型.output乍一看这样已经跑通了而且知识库节点也确实能检索出内容。但后面调试时发现这版配置虽然表面没报错实际上埋了坑。八、踩坑记录为什么“查到了数据模型却说无法回答”这是整个搭建过程中最值得记录的部分。现象在工作流调试时我能明显看到知识库检索节点运行成功outputList 中有多条检索结果右侧调试面板里也能看到检索到的文本片段但最后模型却仍然可能输出类似根据现有资料无法完整回答或者在推理内容中表现出一种“像是没拿到上下文”的状态。九、问题排查核心问题出在哪里后面复盘下来问题主要集中在两个点。大模型入参命名不合理我最初把知识库检索结果传给大模型时使用了一个叫 output 的输入变量input 用户问题output 知识库检索结果这个命名看起来省事但其实非常容易引发混淆。原因是大模型节点自身就有一个输出字段 output你又额外定义了一个输入变量 output于是同一个节点里同时存在输入 output输出 output这在调试和模板引用时都很容易出问题。知识库返回的是 outputList本质上是列表对象知识库节点给出的不是一段简单字符串而是一个数组/对象列表。如果直接粗暴地把它塞给模型有时候平台虽然会做自动转换但模型未必能稳定理解。这类问题的典型表现就是– 知识库节点看起来已经有内容– 模型侧却像没真正吃到可用上下文十、正确的修正方式后来我把大模型节点的输入重新调整为input用户问题context知识库检索结果也就是大模型节点input 开始.USER_INPUTcontext 知识库检索.outputList这一步的核心思想就是不要把知识库结果命名成 output而是命名成更清晰的 context。这样能明显降低变量冲突和语义混乱的问题。十一、系统提示词的优化除了变量命名提示词也必须和变量显式绑定。我后面采用的思路是在大模型节点里明确告诉模型它要根据哪个变量来回答。一个比较稳妥的系统提示词模板如下你是“问史通”一个基于RAG检索增强生成的历史智能助手专注中国近现代史。 你的回答必须严格基于提供的【知识库检索结果】生成。 【严格约束】 * 只能使用知识库中的信息进行回答 * 严禁编造、扩展或引入未提供的历史事实 * 若信息不足必须说明“根据现有资料无法完整回答” 【任务目标】 围绕用户问题完成以下内容1. 给出直接答案简洁2. 结合知识库进行解释说明3. 如适用补充背景 / 原因 / 过程 / 影响 【回答结构默认】 * 结论 * 解释 * 延伸可选 【输入变量】 * 用户问题{{input}}* 检索结果{{outputList}}请输出清晰、可信、结构化的历史解答。一个比较稳妥的用户提示词模板如下用户问题{{input}}知识库检索结果{{context}}请仅依据以上知识库检索结果回答用户问题。 如果知识库中存在明确数值或条款结论请直接给出结论并在【依据】中引用对应内容。这一步非常关键。因为很多时候不是模型能力不行而是没有把变量引用清楚。十二、最终稳定版工作流最终跑通并且比较稳定的版本结构如下开始节点– 输入USER_INPUT知识库检索节点– Query开始.USER_INPUT– 知识库中国近现代史 中国近现代史-RAG优化版大模型节点– input开始.USER_INPUT– context知识库检索.outputList结束节点– 返回变量大模型.output– 返回文本{{output}}这个版本的核心特点是链路简单变量清晰检索结果能够稳定传给模型调试时更容易定位问题十三、对话配置开场白和预置问题工作流跑通之后我又对“对话体验”做了单独优化。因为如果开场白和预置问题写得不好用户即使面对一个能力正常的助手也可能不知道该怎么问。开场白设计原则开场白不是单纯介绍自己而是要告诉用户两件事你能回答什么怎样提问更合适我最终给“问史通”配置是你好我是「问史通」一个基于中国近现代史知识库的问答助手。 我可以帮你解答 历史事件如鸦片战争、五四运动 历史背景与影响 人物与制度变革 中国近代化与革命进程 你可以直接提问例如 • 鸦片战争对中国社会产生了什么影响 • 为什么说中国是半殖民地半封建社会 • 五四运动的意义是什么 • 辛亥革命为什么没有改变中国社会性质 我会根据知识库内容进行回答如果资料不足会说明“根据现有资料无法完整回答”。预置问题设计原则预置问题我尽量选成几类典型问题– 高频考点型– 概念解释型– 总结分析型比如- 鸦片战争对中国社会产生了什么影响 - 为什么说中国是半殖民地半封建社会 - 中国近代化探索为什么屡次失败 - 辛亥革命的历史意义和局限是什么 - 五四运动为什么是新民主主义革命的开端这些问题的好处是用户一眼就知道助手能做什么有利于引导用户进入正确的问题域也方便调试知识库和工作流是否真的生效十四、效果演示在预览与调试界面中我直接使用预置问题进行了测试。例如输入鸦片战争对中国社会产生了什么影响“问史通”能够给出较为结构化的回答大致会包括鸦片战争是中国近代史的起点中国主权受到严重侵害中国社会逐步由封建社会转向半殖民地半封建社会中国人民开始了反帝反封建的资产阶级民主革命从效果上看这类问题已经可以实现先给结论再分点解释回答风格相对稳定基本不再出现明显跑题这就说明整条“检索 → 生成”的链路已经真正打通了。十五、发布流程在本地调试通过后我把“问史通”提交发布。发布流程本身不复杂大概就是保存当前对话流与配置点击发布提交审核等待审核通过发布成功后就可以以一个完整的智能体形式对外演示和使用。十六、这次实践中最值得总结的经验如果要用一句话总结这次搭建过程我会说知识库问答类应用最重要的不是“模型有多强”而是“检索结果是否被清晰、稳定地传给模型”。具体来说我觉得最值得记住的是以下几点知识库要做“原始版 优化版”不要只传原始 PDF。最好再准备一份适合问答检索的结构化摘要。工作流变量命名一定要清晰尤其不要把大模型输入变量命名成 output 这种和节点输出字段重名的名字。提示词必须显式引用变量不要只写“请根据知识库回答”而要明确写出– {{input}}– {{context}}开场白和预置问题很重要这是用户理解产品能力的入口也是你验证产品能力边界的最好方式。调试时要区分两个问题要分清–是不是没检索到–还是检索到了但模型没正确消费这两个问题看起来像一个问题实际排查方式完全不同。十七、后续可优化方向虽然“问史通”已经能用了但如果继续打磨我觉得还可以从以下方向优化增加中间格式化节点把知识库返回的 outputList 先整理成更标准的纯文本再传给大模型稳定性会更高。增加回答模板比如强制输出结构– 结论—背景– 影响– 意义这样更适合学习场景。增加专题型知识库比如后续把内容拆成– 鸦片战争专题– 洋务运动专题–戊戌变法专题–五四运动专题–新民主主义革命专题这样在专题问答时检索精度还能进一步提高。做成考试辅助版如果面向课程学习还可以加上–高频考点总结–名词解释模式–简答题模式–论述题模式这样“问史通”就不仅是问答助手还能变成一个学习辅助工具。十八、结语整体来看这次用 Coze 搭建“问史通”的过程让我更直观地理解了一个垂直知识库问答助手的核心逻辑– 知识库负责“找”– 大模型负责“答”– 工作流负责“串”– 对话配置负责“用起来顺不顺手”如果你也想做一个自己的垂直领域助手我很建议从这种最小闭环开始开始节点 → 知识库检索 → 大模型 → 结束节点先把链路跑通再逐步优化知识库、提示词和交互体验。

更多文章