构建以数据为中心的 Agent 智能体全局架构设计 原创

在过去的这一年中，大模型领域呈现出两大热点方向。一方面，是 LLM（大型语言模型），其发展速度之快令人瞩目，几乎每个月都有新的突破。业界的关注焦点主要集中在模型的效果和成本效益上。另一方面，则是 AI Agent智能体，它在各个领域的应用问题上不断探索，人们更关注的是其在不同场景下的应用能力和市场竞争力。

接下来，我们将重点探讨 AI Agent 的发展趋势、架构设计以及实际应用情况。

1、AI Agent 架构设计全剖析

第一、AI Agent 架构和发展趋势

1）、什么是智能体？

AI Agent 智能体是一种能够感知环境、自主决策并执行行动的智能实体。它具备通过独立思考和调用工具逐步完成目标的能力。AI Agent 不仅能够理解复杂的指令，还能根据环境的变化动态调整策略，以实现特定的目标。

2）、为什么需要智能体？

尽管大模型（LLM）在模拟人脑神经元推理过程方面取得了显著进展，但要完成具体的现实任务，仍需要像人类一样具备完整的感知系统（如视觉、听觉、触觉等）、记忆和经验来辅助决策，并最终采取行动。AI Agent 正是为了弥补这一差距而设计的，它能够将语言模型的推理能力与实际操作能力相结合，从而更有效地解决现实世界中的复杂问题。

3）、智能体的发展趋势

在过去的一年中，AI Agent 的发展主要集中在探索各种固定的、单任务的智能体，以解决一个个具体的小问题。这些单任务智能体在特定领域表现出色，但随着技术的不断进步，人们开始意识到构建更通用、更灵活的智能体平台的重要性。

从今年开始，AI Agent 的发展进入了一个新的阶段。研究人员和工程师们开始构建智能体平台和范式，提升多智能体协同、编排和优化数据质量体系。最终目标是打造一个超级智能体，能够一站式解决所有问题，实现通用人工智能（AGI）的真正到来。

尽管通用人工智能（AGI）的实现仍需一定时间，但未来的主要发展方向已经逐渐清晰。考虑到通用性和专业性的平衡，以及成本和效果的平衡，未来 AI Agent 的发展将更多地集中在以数据为中心的多智能体协同模式上。这种模式能够充分发挥各智能体的专业能力，同时通过协同合作实现更复杂任务的解决，为实现 AGI 奠定坚实基础。

第二、AI Agent 竞争力构建

在构建 AI Agent 的过程中，我们首先需要思考的核心问题是：智能体的核心竞争力到底是什么？

经过深入分析，我们认为模型、数据和场景是构建 AI 产品竞争力的三个关键要素。

首先，模型层面，目前公域数据已经被挖掘得相对充分，下一步的重点可能会转向成本和性能的优化。在这方面，像 DeepSeek 这样的技术正在加速推动相关变革。

其次，私域数据是每个公司的核心壁垒。企业需要充分挖掘私域数据，沉淀优质数据，并持续优化，以释放最大的客户价值。只要生产资源足够优质，并且有底层模型的生产力支持，就可以实现持续演进。

最后，场景方面，需要找到自己领域内高频、结构化且风险可控的场景，并逐步延伸场景的专业性，从而帮助客户提升效率。例如，在我们 DEVOPS 领域，智能编码就是一个很好的例子。灵码在代码辅助这一高频场景取得了突破，通过灵码，大家可以更高效地构建智能体。

第三、AI Agent 数据飞轮

数据确实是企业的核心竞争力之一，那么如何在自己的领域内打造高质量的数据呢？

首先，每个应用都能够从客户那里收集和沉淀数据，这些数据是实现个性化和专业性的基础。其次，每个领域都有其独特的专业数据和标准操作流程（SOP），将这些专业数据与客户数据相结合，可以更高效地解决客户的问题。

当我们构建好智能体并准备发布给客户时，需要提前建立数据评测集，对数据和效果进行评估，以满足客户对服务水平协议（SLA）的确定性要求。上线后，我们需要收集客户的反馈数据，并通过对反馈数据的分析来优化我们的行业数据、工具集和场景。

通过持续评估和优化数据体系，我们可以确保私域数据的高质量，从而更好地满足客户需求。这样，数据的高质量与客户的诉求之间就能形成良好的匹配，推动企业竞争力的持续提升。

第四、AI Agent：构建以数据为中心智能体平台

那么，上述四类数据应当由何种系统来承载与流转呢？

我们的答案是：构建一个以数据为核心的智能体平台。

• 构建企业知识库：借助平台工具，将数据转化为 Markdown 格式，进而推送至向量数据库，以此构建领域专属数据；同时，利用工具集助力 Agent 获取结构化的客户数据。
• 打造数据评测集与自动化智能化数据评估体系：确保数据质量与效果评估的高效性与准确性。
• 在前台搭建客户反馈与跟踪体系：及时收集客户反馈，以便对行业数据、工具集和场景进行针对性优化。
• 借助多 Agent 架构实现数据与任务的自动流转：提升系统的整体效率与协同能力，确保数据能够在不同智能体之间顺畅流转，任务能够自动分配与执行，从而更好地满足客户需求并提升企业竞争力。

第五、AI Agent 全局技术架构

那如何构建多 Agent 架构呢？

阿里巴巴在去年云栖大会推出了 Spring-AI-Alibaba 框架和生态工具集合，助理企业构建智能体。

• 通过 Higress 一键集成系统数据和工具集，获取私域客户数据。
• 通过 Otel 观测体系完成全链路的数据质量观测。
• 通过 Nacos 动态更新提示词数据，实时查看优化效果。
• 通过 Apache RocketMQ 动态更新 RAG 数据，实时反馈和优化数据。

2、AI Agent 应用实践

第一、AI Agent 实践（Higress：一键集成多种数据源）

Higress 是阿里巴巴开源的一款 AI 原生 API 网关，它拥有行业内最全面的 AI 生态插件，能够助力开发者轻松集成多种数据源。Higress 支持与多种模型的对接，实现一键集成，同时提供统一的协议、权限管理和容灾机制。它可以通过搜索工具获取领域数据，通过 MCP Server 获取客户数据，从而整合推理所需的完整数据。此外，Higress 还提供统一的数据格式转换功能，利用缓存和向量检索构建长短期记忆数据，有效降低对 LLM 的调用频率，进而降低成本，同时提升性能和吞吐量。此外，Higress 还集成了可观测性功能，用于数据合规和数据质量评估。

第二、AI Agent 实践（Otel：全链路数据质量追踪）

我们基于 Otel 观测体系能够自动的分析推理过程中效果，召回效果。效果不好，可以全链路追踪客户整个检索和推理过程，分析是知识库问题，RAG 问题，还是工具集问题，提升优化数据效率。

第三、AI Agent 实践（Nacos：动态更新提示词数据）

在 Agent 中，存在大量的提示词和算法参数。借助 Nacos，可以实现这些参数的动态实时推送，从而及时获取优化效果。如果在系统上线后担心修改提示词的效果可能不符合预期，可以通过灰度配置逐步观察和评估优化提示词数据的效果。

第四、AI Agent 实践（Apache RocketMQ：提升 RAG 数据实时性）

系统数据与客户数据均处于持续更新的状态。为了确保每次推理都能获取到最新数据并获得最佳效果，我们可以通过 RocketMQ 实现实时同步变更事件与数据，从而保障数据的时效性与准确性。

第五、AI Agent 实践（DeepSeek 联网搜索+数据安全解决方案）

DeepSeek 目前非常受欢迎，使用过的用户都知道，能够联网的 DeepSeek 才是真正的满血版。

目前，大量客户通过 Higress 一键集成 DeepSeek 及其联网能力，整合夸克搜索数据，从而体验到最佳性能。借助 Higress，可以在模型访问链路上实现全链路 TLS 加密，确保链路数据的安全性。同时，通过内容安全机制解决数据合规和安全问题。此外，通过 API-Key 的集中管理，可以提高并发处理能力，为 Agent 提供内部 API-Key，有效防止 API-Key 泄漏风险，并可根据内部 API-Key 进行流量和额度控制，避免因代码错误导致的大量 token 调用和高额费用支出。

本文转载自公众号玄姐聊AGI  作者：玄姐

原文链接：​​https://mp.weixin.qq.com/s/G_B4BplaOySuGeJy2g4G0w​​