基本信息

---

下载

文档摘要

---

阿里云AI搜索RAG大模型优化实践

欧明栋

阿里云AI搜索RAG大模型算法负责人

RAG背景

大模型知识问答

大模型直答

大模型微调

RAG(检索增强生成)

问题

+·LLM--回答检索知识

问题

LLM

+

领域知识

→回答

问题→

LLM

回答

外在幻觉

多

中

少

领域知识

?

有

有

实时信息

?

?

有

可溯源

?

?

有

成本

低

?

低

RAG架构

问题

文档

query改写扩展LLM服务

query改写扩展

LLM服务

混合索引+重排

回答

文档解析

混合索引向量+文本

语义切片

RAG的效果问题及归因

文档解析及切片

Q