12张动图全面剖析 MCP/RAG/Agent/Cache/Fine-tuning/Prompt/GraphRAG 等核心技术 原创

本文通过 12 张动图全面剖析 MCP、RAG、Agent、Cache、Fine-tuning、Prompt、GraphRAG 等 AI 大模型应用核心技术。

下文我们详细剖析之。

一、12张动图全面剖析 AI 大模型应用核心技术

1、函数调用和 MCP 在 LLM 中的应用

在 MCP 流行之前，AI 大模型应用工作流程依赖于传统的函数调用来访问工具。

现在，MCP（模型上下文协议）正在改变开发者为 AI 智能体构建工具访问和编排的方式。

2、从头开始训练 LLM 的四个阶段

这张图涵盖了从零开始构建 LLM 并将其应用于现实世界的四个阶段。

这些阶段包括：

• 预训练
• 指令微调
• 偏好微调
• 推理微调

3、LLM 中的三种推理提示词技巧

使 LLM 应用如此强大的不仅仅是它们准确预测下一个 token 的能力，还有它们通过推理得出答案的能力。

这张图涵盖了三种流行的提示词技巧，帮助 LLM 在回答之前更清晰地思考。

4、使用其他 LLM 训练 LLM（蒸馏）

LLM 不仅从原始文本中学习；它们也相互学习：

• Llama 4 Scout 和 Maverick 是使用 Llama 4 Behemoth 训练的。
• Gemma 2 和 3 是使用谷歌专有的 Gemini 训练的。
• 蒸馏帮助我们做到这一点，下面的图描绘了三种流行的技术。

5、LLM 中的监督与强化微调

RFT 让我们可以将任何开源 LLM 转变为推理强国，而无需任何标记数据。

这张图涵盖了监督微调和强化微调之间的区别。

6、Transformer 与专家混合模型

专家混合模型（MoE）是一种流行的架构，它使用不同的“专家”来改进 Transformer 模型。

专家就像前馈网络，但比传统 Transformer 模型中的网络小。

7、传统 RAG 与智能体 RAG

简单的 RAG 检索一次并生成一次，它不能动态搜索更多信息，也不能通过复杂查询进行推理。

此外，适应性很小。LLM 无法根据手头的问题修改其策略。

智能体 RAG 解决了这个问题。

8、5 种 AI 智能体设计模式

AI 智能体行为允许 LLM 通过自我评估、规划和协作来完善其输出！

这张图描绘了构建 AI 智能体时采用的 5 种最流行设计模式。

9、AI 智能体系统的 5 个级别

AI 智能体系统不仅仅是生成文本；它们做出决策、调用函数，甚至运行自治工作流程。

这张图解释了 AI 智能体的 5 个级别——从简单的响应者到完全自治的 AI 智能体。

10、传统 RAG 与 HyDE

传统 RAG 系统的一个关键问题是，问题与答案在语义上不相似。因此，在检索过程中，由于余弦相似度高于实际包含答案的文档，会检索到几个不相关的块。

HyDE （Hypothetical Document Embeddings）假设文档嵌入技术通过首先生成一个假设性的回答来解决这个问题。

11、RAG 与图 RAG

回答需要全局上下文的问题对于传统 RAG 来说很困难，因为它只检索最相关的前 k 块。

图 RAG 通过图结构使其更加健壮，这有助于它构建长距离依赖关系，而不是 RAG 中发生的局部文本分组。

12、KV 缓存

KV 缓存是一种用于加速 LLM 推理的技术。

简而言之，我们不是冗余地计算所有上下文 tokens 的 KV 向量，而是缓存它们。这在推理过程中节省了时间。

好了，这就是我今天想分享的内容。

本文转载自​​玄姐聊AGI​​  作者：玄姐