检索7 分钟阅读占位稿
RAG 上生产时,真正会坏掉的是什么
检索演示的失败方式,在真实文档进来之前都是看不见的。占了大部分比例的三种失败,以及应该测什么而不是凭感觉。
阅读文章
AI 工程里大部分难的地方,都发生在东西第一次跑通之后。这些是关于那一段的笔记:无声失败的检索、没人列进预算的评估,以及在纸上便宜、在代码里昂贵的架构决定。
检索演示的失败方式,在真实文档进来之前都是看不见的。占了大部分比例的三种失败,以及应该测什么而不是凭感觉。
阅读评估、监控,以及那些只有真实用户到来之后才出现的故障。
阅读一页文字花掉一个下午,却了结了那些否则会在三周后的 pull request 里争起来的问题。
阅读