【Hacker News搬运】自适应RAG——动态检索方法调整
-
Title: Adaptive RAG – dynamic retrieval methods adjustment
自适应RAG——动态检索方法调整
Text:
Url: https://arxiv.org/abs/2403.14403
标题: Adaptive-RAG:通过问题复杂性学习适应检索增强型大型语言模型 作者:提交日期 2024 年 3 月 21 日(版本 1),最后修订日期 2024 年 3 月 28 日(此版本,版本 2) 发布日期:未提供 顶部图片链接:无 文本: 查看 PDF HTML(实验性) 摘要:检索增强型大型语言模型(LLM)将外部知识库的非参数化知识集成到 LLM 中,已成为增强多个任务(如问答(QA))响应准确性的有前景的方法。然而,尽管有许多方法可以处理不同复杂度的查询,但它们要么处理简单查询时产生不必要的计算开销,要么无法充分解决复杂的多步骤查询;然而,并非所有用户请求仅属于简单或复杂类别之一。在本文中,我们提出了一种新颖的自适应 QA 框架,可以根据查询复杂度动态地选择最适合(检索增强型)LLM 的策略,从最简单到最复杂。此外,这个过程是通过一个分类器来实现的,这是一个较小的 LM,用于预测传入查询的复杂度级别,其标签是自动收集的,来源于实际模型的预测结果和数据集中的内在归纳偏置。这种方法提供了一个平衡的策略,无缝地在迭代和单步检索增强型 LLM 以及无检索方法之间适应各种查询复杂度。我们在一组涵盖多种查询复杂度的开放领域 QA 数据集上验证了我们的模型,并显示我们的方法与相关基线(包括适应性检索方法)相比,可以提高 QA 系统的整体效率和准确性。代码可在以下网址找到:this https URL。 提交历史来自:Soyeong Jeong [查看电子邮件] [v1] Thu, 21 Mar 2024 13:52:30 UTC (8,186 KB) [v2] Thu, 28 Mar 2024 06:45:11 UTC (8,186 KB)
Post by: milliondreams
Comments:
machinelearning: This is a simple version of the tree search approach that people suspect Q* is
machinelearning: 这是人们怀疑Q*是树搜索方法的一个简单版本
dberg: anyone know the proper github link, one in paper 404s..
dberg: 任何人都知道正确的github链接,404页中的一个。。
oliveralbertini: the repository links is dead
oliveralbertini: 存储库链接已失效
boodleboodle: Are we advertising papers on hackernews now?
boodleboodle: 我们现在在hackernews上做广告吗?