可检查的检索过程。
这里评测的是作品集中的检索演示,结果不代表完整 RAGOps 平台或生产流量。
实际执行什么
每个问题都会运行 BM25:k1 = 1.2、b = 0.75,文档标题权重为三倍。四个示例问题还会与 24 个段落向量计算余弦相似度。每个通道最多提供 10 个候选,使用等权倒数排名融合:累加 1 / (60 + rank),排名从 1 开始。前 5 个结果作为检索证据,演示不执行重排。
哪些内容预先计算
开源 MiniLM 向量在离线环境中生成,使用固定版本的量化 ONNX 模型、带 attention mask 的均值池化与 L2 归一化。文档输入包含标题和段落。四个示例问题及独立评测集保存了预计算的问题向量。自由输入没有问题向量,因此只运行 BM25。公开站点不运行模型或调用模型 API。
固定模型版本 · Apache 2.0 · 向量与生成来源 · 向量生成脚本
标注与指标
评测集包含 24 个编写的改写问题,与四个演示问题不同,每个问题人工指定一个相关段落。这是小型诊断集,不是独立留出的基准测试,相关性标注也不完整。Recall@5 计算检索到的相关标注段落占全部相关标注段落的比例,再对问题取平均。MRR@5 计算前五名中首个相关标注段落的排名倒数,无匹配时为零,再对问题取平均。评测不计分回答质量或忠实度。
中英文界面共用英文语料、示例问题和回放回答,以保持查询输入、排名与评测结果可比较。
复现与检查
在作品集项目中运行 pnpm eval ,使用保存的文档与评测问题向量。 pnpm eval:check 重新计算排名并核对报告、源码哈希与公开副本;构建会拒绝过期的评测产物。
回答范围
回答是预先编写的固定内容回放。只有全部必需引用段落都出现在真实检索的前五名时,才显示该回答,否则不展示。检索过程不会为支撑回答而插入段落。