想象你是某软件产品的客户,在官网上问他们的 AI 客服:"我们还在用 2023 年的旧版本,现在升级到新版,历史数据和自定义设置能不能保留?"
这种问题的答案,散落在这家公司的版本说明、迁移指南和客服手册里,而通用大模型并没有学过这些资料。所以现实中的做法是:平时把这些文档整理好存起来,用户提问时,先从中"查"出最相关的几段,再把这几段连同问题一起交给模型,让模型"照着资料"组织出回答。
这套"先查资料、再让模型基于资料回答"的做法,行业里叫 RAG(Retrieval-Augmented Generation,检索增强生成)。它是目前最主流、也最适合入门理解的 LLM 应用方式,我们就以它为主线展开。
这篇文章从 RAG 的流程入手,由表及里,再向外扩展到 Agent、合规,以及 RAG 在整个 LLM 应用版图中的位置。
如果你是工作中绕不开 LLM、却不必亲手写代码的人——产品经理、项目经理、售前与解决方案工程师、创业者,或需要对接 AI 项目的管理者——需要的往往不是能跑的代码,而是能跟工程团队对话、评估方案、把事情跟客户讲清楚的那层理解,那么这篇文章正是为此而写:读完之后,应能看懂一套真实 LLM 系统的运转方式、跟上相关的技术讨论,并在面对具体需求时判断该选用 RAG 还是其他方案。
如果你是刚入门的技术人员,它则能帮你先搭起一张完整的概念地图,之后再看框架文档或动手写代码时,不至于只见树木、不见森林。
全文不需要任何数学或编程基础。内容由浅入深:前面几章从日常例子讲起,越往后越贴近系统内部的运作细节,读者可以一路读下去,也可以只取自己需要的部分。