把你的知识接到模型上：不讲大词的检索

四个步骤

切块。按结构切——章节、标题、行——并在每个块里保留文档名和标题路径。随意切分是回答质量差最常见的原因。

建索引。把基于语义的检索和字面检索结合起来，胜过单独使用其中任何一种，在希伯来语和涉及标识符时尤其如此。

检索。要少量相关的块，而不是大量的块。块越多成本越高、越慢，还会带来噪音。

回答。要求模型只依据给定材料回答、引用来源，并在材料里没有答案时明确说出来。

那些坑

检索时忘掉了权限；相互矛盾的文档没有按日期排优先级；本质上是数据查询而不是文本检索的问题；以及没有归一化的希伯来语拼写。

怎么知道它有效

把两个步骤分开度量：正确的块有没有出现在结果里，以及在它出现的前提下——答案准不准。只度量最终结果，说明不了该修哪一环。