清华NLP开源RAG开箱即用框架，自动适配学问库无需纠结模子选型

UltraRAG团队 投稿

量子位 | 公众号 QbitAI

RAG系统的搭建与优化是一项宏大且复杂的系统工程，频频需要兼顾测试制定、检索调优、模子调优等重要才略，繁琐的责任过程时时让东说念主无从下手。

近日，针对以上痛点，清华大学THUNLP团队预计东北大学NEUIR、面壁智能及9#AISoft团队共同推出了UltraRAG框架，该框架校阅了传统RAG系统竟然立与竖立面目，极大镌汰了学习本钱和确立周期。

UltraRAG 不仅具备欢悦专科用户需求的“单反相机”级细腻化竖立本事，同期也提供访佛“卡片机”的一键式方便操作，让RAG系统的构建变得极简且高效。

更蹙迫的是，比较复杂竖立的Llamaindex等传统RAG框架，UltraRAG愈加关怀将模子适配到用户提供的学问库，有用幸免在“模子选型”的反复纠结。

同期，其模块化遐想又能为科研需求快速赋能，匡助磋磨者在多种场景下目田组合、快速迭代。通过UltraRAG，用户不错闲静完成从数据到模子的全过程处置。

一同发布的还有一系列 RAG 技艺全家桶，其中，RAG-DDR、VisRAG 刚刚被ICLR收录，MiniCPM-Embedding已有30余万次下载量。

GitHub地址可到文末领取。

零代码编程WebUI相沿，一键式系统化数据构建

UltraRAG以其极简的WebUI行为中枢上风之一，即即是无编程劝诫的用户，也能闲静完成模子的构建、考验与评测。

不管是快速开展实验，仍是进行个性化定制，UltraRAG均能提供直不雅且高效的相沿。该框架集成了多种预设责任流，用户可笔据具体需求活泼领受最优旅途，无需编写繁琐代码，即可完成从数据处理到模子优化的全过程操作。

以下是操作演示：

UltraRAG以自研的KBAlign、DDR等法子为中枢，提供 “一键式”数据构建，联接检索与生成模子的千般化微调计策，助力性能全面优化。

在数据构造方面，UltraRAG粉饰从检索模子到生成模子的全过程数据构建有策画，相沿基于用户导入的学问库自动生成考验数据，显赫进步场景问答的后果与适配遵守。

在模子微调方面，UltraRAG提供了完备的考验剧本，相沿Embedding模子考验及LLM的DPO/SFT微调，匡助用户基于数据构建更强劲、更精确的模子。

UltraRAG以自研的UltraRAG-Eval法子为中枢，交融针对有用与重要信息的多阶段评估量策，显赫进步模子评估的正经性，粉饰从检索模子到生成模子的多维评估策画，相沿从举座到各才略的全面评估，确保模子各项性能策画在施行哄骗中取得充分考证。

通过重要信息点锚定，UltraRAG有用增强评估的稳当性与可靠性，同期提供精确反应，助力确立者抓续优化模子与法子，进一步进步系统的正经性与实用性。

UltraRAG内置THUNLP-RAG组自研法子偏激他前沿RAG技艺，相沿总计模块化的抓续探索与研发。UltraRAG不仅是一个技艺框架，更是科研东说念主员与确立者的过劲助手，助力用户在多种任务场景中高效寻优。

UltraRAG内置探索技艺系列

UltraRAG系列引入多项立异技艺，优化了检索增强生成中的学问适配、任务妥当和数据处理，进步了系统的智能性和高效性。

UltraRAG-KBAlign：进步大谈话模子自适须学问库的本事，优化学问检索与推理过程。2.4B模子通过自标注达到GPT-4o的标注性能，并在多个实验中越过GPT-4o自己。UltraRAG-Embedding：出色的中英文检索本事，相沿长文本与荒芜检索，通行评测榜单MTEB-Retrieval上性能评分跨越 BGE-M3 10%。UltraRAG-Vis：建议了纯视觉的RAG Pipeline，通过引入VLMs对文档进行编码，幸免了文档领悟形成的信息丢失，比较传统Text RAG Pipeline，部分任务在端到端性能上进步25-39%。UltraRAG-Adaptive-Note：通过动态缅思处置和信息相聚，进步复杂问答任务中的解答质料。在GPT-3.5-turbo、Llama3-8B、Qwen2-7B等多个前沿模子上实验标明，自妥当地动态缅思处置和信息相聚计策相较基础检索增强生成模子达成3%～13.9%的性能进步，况兼尤其擅所长理具有复杂信息检索需求的问题。UltraRAG-DDR：基于可微调数据奖励(DDR)优化检索增强生成，进步任务特定场景的系统性能。在MiniCPM-2.4B、Llama3-8B等多个前沿模子上实验标明，DDR优化计策相较原始检索增强生成模子可达成7%以上性能进步。UltraRAG-Eval：针对RAG场景遐想的高效评测有策画。通过小数种子文档，快速自动生成专科鸿沟的RAG评测数据，并提供正经的模子运行评测策画与法子。

UUltraRAG各法子在国表里AI社区中享有一定的影响力和闻名度，部分模子领有30余万次下载量。

Github地址：

https://github.com/OpenBMB/UltraRAG

参考文件

https://arxiv.org/abs/2410.13509

Li, Xinze, Mei, Sen, Liu, Zhenghao, Yan, Yukun, Wang, Shuo, Yu, Shi, Zeng, Zheni, Chen, Hao, Yu, Ge, Liu, Zhiyuan, et al. (2024). RAG-DDR: Optimizing Retrieval-Augmented Generation Using Differentiable Data Rewards. arXiv preprint arXiv:2410.13509.【ICLR 2025】

https://arxiv.org/abs/2410.10594

Yu, Shi, Tang, Chaoyue, Xu, Bokai, Cui, Junbo, Ran, Junhao, Yan, Yukun, Liu, Zhenghao, Wang, Shuo, Han, Xu, Liu, Zhiyuan, et al. (2024). Visrag: Vision-based Retrieval-Augmented Generation on Multi-Modality Documents. arXiv preprint arXiv:2410.10594. 【ICLR 2025】

https://arxiv.org/abs/2410.08821

Wang, Ruobing, Zha, Daren, Yu, Shi, Zhao, Qingfei, Chen, Yuxuan, Wang, Yixuan, Wang, Shuo, Yan, Yukun, Liu, Zhenghao, Han, Xu, et al. (2024). Retriever-and-Memory: Towards Adaptive Note-Enhanced Retrieval-Augmented Generation. arXiv preprint arXiv:2410.08821.

https://arxiv.org/abs/2411.14790

Zeng, Zheni, Chen, Yuxuan, Yu, Shi, Yan, Yukun, Liu, Zhenghao, Wang, Shuo, Han, Xu, Liu, Zhiyuan, Sun, Maosong. (2024). KBAlign: Efficient Self Adaptation on Specific Knowledge Bases. arXiv preprint arXiv:2411.14790.

https://arxiv.org/abs/2408.01262

Zhu, K., Luo, Y., Xu, D., Wang, R., Yu, S., Wang, S., Yan, Y., Liu, Z., Han, X., Liu, Z., & others. (2024). Rageval: Scenario specific rag evaluation dataset generation framework. arXiv preprint arXiv:2408.01262.

— 完 —

量子位 QbitAI · 头条号签约

关怀咱们，第一时候获知前沿科技动态