回复
AI代理与代理式AI：概念分类、应用与挑战 精华
摘要
本文批判性地区分了人工智能代理（AI Agents）与代理式人工智能（Agentic AI），提出了结构化的概念分类、应用映射和挑战分析，以阐明二者在设计理念和能力上的差异。本文首先概述了搜索策略和基础定义，将AI代理描述为由大型语言模型（LLM）和大型图像模型（LIM）驱动的模块化系统，专注于狭窄、特定任务的自动化。生成式人工智能（Generative AI）被定位为前驱，而AI代理通过工具集成、提示工程和推理增强得以发展。相比之下，代理式AI系统代表了一种范式转变，特征包括多代理协作、动态任务分解、持久性记忆和编排式自主性。通过对架构演进、操作机制、交互风格和自主性水平的顺序评估，本文对两种范式进行了比较分析。应用领域包括客户支持、调度和数据摘要等AI代理应用，与研究自动化、机器人协调和医疗决策支持等代理式AI部署形成对比。本文进一步探讨了每个范式面临的独特挑战，包括幻觉问题（hallucination）、脆弱性（brittleness）、涌现行为（emergent behavior）和协调失败（coordination failure），并提出了针对性解决方案，如ReAct循环、检索增强生成（RAG）、编排层和因果建模。本研究旨在为开发健壮、可扩展和可解释的AI驱动系统提供明确路线图。。
引言
在2022年（ChatGPT时代之前）AI代理和代理式AI广泛应用之前，自主智能代理的开发深深植根于人工智能的基础范式，特别是多代理系统（MAS）和专家系统，强调社会行动和分布式智能[1], [2]。Castelfranchi [3]通过引入社会行动、结构和心智的本体类别奠定了关键基础，提出社会性源于共享环境中个体代理的行动和认知过程，目标委托和采纳等概念构成了合作与组织行为的基础。类似地，Ferber [4]为MAS提供了全面框架，将代理定义为具有自主性、感知和通信能力的实体，强调其在分布式问题解决、集体机器人和虚拟世界模拟中的应用。这些早期工作确立了个体社会行动和认知架构是建模集体现象的基础，为现代AI代理奠定了舞台。本文基于这些洞见，探讨如何将[3], [4]中提出的社会行动建模应用于设计能够在动态环境中进行复杂、社会智能交互的AI代理。
这些系统被设计为执行特定任务，遵循预定义规则，自主性有限，对动态环境的适应能力较弱。类代理系统主要为反应式或审议式，依赖于符号推理、基于规则的逻辑或脚本化行为，而非现代AI代理的学习驱动和上下文感知能力[5], [6]。例如，专家系统利用知识库和推理引擎模拟人类决策，如医疗诊断中的MYCIN系统[7]。反应式代理（如机器人中的代理）遵循感知-行动循环，基于硬编码规则，如早期自主车辆Stanford Cart [8]。多代理系统促进分布式实体间的协调，如供应链管理中的基于拍卖的资源分配[9], [10]。视频游戏中的脚本化AI（如早期RPG中的NPC行为）使用预定义决策树[11]。此外，信念-欲望-意图（BDI）架构使软件代理实现目标导向行为，如空中交通控制模拟[12], [13]。这些早期系统缺乏现代代理式AI的生成能力、自我学习和环境适应性，而后者利用了深度学习、强化学习和大规模数据[14]。
图1：全球谷歌搜索趋势显示自2022年11月（ChatGPT时代）以来对“AI代理”和“代理式AI”的兴趣上升。
公众和学术界对AI代理和代理式AI的兴趣反映了系统能力的广泛转变。如图1所示，谷歌趋势数据显示，自2022年底大规模生成模型出现后，全球对“AI代理”和“代理式AI”的搜索兴趣显著上升。这一转变与代理设计从2022年前的受限、基于规则的环境向ChatGPT后学习驱动、灵活架构的演变密切相关[15]–[17]。这些新系统能够随时间优化性能，并与非结构化、动态输入自主交互[18]–[20]。例如，早期专家系统需要手动更新静态知识库，而现代代理利用涌现神经行为泛化任务[17]。趋势活动的增加反映了这些差异的日益认知。此外，应用不再局限于模拟或物流等狭窄领域，而是扩展到需要实时推理和适应性控制的开放世界场景。这一势头，如图1所示，凸显了近期架构进步在扩展自主代理用于现实世界部署中的重要性。
ChatGPT于2022年11月的发布标志着人工智能发展和公众认知的转折点，催化了全球范围内的采纳、投资和研究活动激增[21]。在这一突破之后，AI领域经历了快速转型，从单一LLM的使用转向更自主、任务导向的框架[22]。这一演进经历了两个主要生成后阶段：AI代理和代理式AI。最初，ChatGPT的广泛成功推广了生成式代理（Generative Agents），这些基于LLM的系统设计用于从用户提示生成文本、图像和代码等新颖输出[23], [24]。这些代理迅速应用于从对话助手（如GitHub Copilot [25]）、内容生成平台（如Jasper [26]）到创意工具（如Midjourney [27]）的各种应用，彻底改变了数字设计、营销和软件原型设计等领域。
在此生成基础上，出现了一类称为AI代理的新系统。这些代理通过外部工具使用、函数调用和顺序推理增强了LLM，使其能够检索实时信息并自主执行多步工作流程[28], [29]。AutoGPT [30]和BabyAGI（https://github.com/yoheinakajima/babyagi）等框架体现了这一转变，展示了LLM如何嵌入反馈循环以动态规划、行动和适应目标驱动环境[31], [32]。到2023年底，领域进一步发展到代理式AI——复杂的多代理系统，其中专业化代理协作分解目标、通信和协调以实现共享目标。CrewAI等架构展示了这些代理式框架如何在分布式角色中编排决策，促进自主机器人、物流管理和适应性决策支持等高风险应用中的智能行为[33]–[36]。
随着领域从生成式代理向越来越自主的系统发展，明确区分AI代理和代理式AI的技术和概念边界变得至关重要。虽然两者都建立在大型LLM之上并扩展了生成系统的能力，但它们体现了根本不同的架构、交互模型和自主性水平。AI代理通常设计为单实体系统，通过调用外部工具、应用顺序推理和集成实时信息执行目标导向任务[17], [37]。相比之下，代理式AI系统由多个专业化代理组成，协调、通信并在更广泛的工作流程中动态分配子任务[14], [38]。这一架构差异决定了其在可扩展性、适应性和应用范围上的深刻区别。
理解和形式化这两种范式（AI代理和代理式AI）之间的分类在科学上具有重要意义。首先，它通过将计算框架与问题复杂性对齐，支持更精确的系统设计——确保AI代理用于模块化、工具辅助任务，而代理式AI用于编排式多代理操作。此外，它允许适当的基准测试和评估：性能指标、安全协议和资源需求在个体任务代理和分布式代理系统之间差异显著。此外，清晰的分类减少了开发低效，例如避免在设计为单代理执行的系统中假设代理间协作。没有这种清晰度，从业者可能面临复杂场景的欠工程或简单应用的过工程风险。
图2：AI代理与代理式AI相关研究问题的思维导图。每个颜色编码分支代表一个关键比较维度：架构、机制、范围/复杂性、交互和自主性。
人工智能领域取得了显著进展，特别是在AI代理和代理式AI的开发中。这些术语虽然相关，但指的是具有不同能力和应用的独特概念。本文旨在澄清AI代理和代理式AI之间的差异，为研究人员提供对这些技术的基础理解。本研究的目标是形式化二者的区别，建立共享术语，并提供结构化的分类，以指导学术和工业领域下一代智能代理设计，如图2所示。
本文提供了从传统AI代理到新兴代理式AI系统的全面概念和架构分析。我们未围绕正式研究问题组织研究，而是采用顺序、分层结构，反映这些范式的历史和技术演进。首先详细描述搜索策略和选择标准，建立AI代理的基础理解，分析其定义属性，如自主性、反应性和基于工具的执行。然后探讨基础模型（特别是LLM和LIM）作为驱动代理行为的核心推理和感知基础的作用。后续章节检查生成式AI系统如何作为更动态、交互式代理的前驱，为代理式AI的出现奠定基础。通过这一视角，我们追溯了从孤立单代理系统到编排式多代理架构的概念飞跃，强调其结构差异、协调策略和协作机制。我们进一步通过解构AI代理和代理式AI的核心系统组件，映射其架构演进，提供规划、记忆、编排和执行层的比较洞见。在此基础上，我们回顾了客户支持、医疗、研究自动化和机器人等应用领域，按系统能力和协调复杂性分类现实世界部署。然后评估两种范式面临的关键挑战，包括幻觉、推理深度有限、因果缺陷、可扩展性问题和治理风险。为解决这些局限性，我们概述了检索增强生成、基于工具的推理、记忆架构和基于模拟的规划等新兴解决方案。本文最后提出前瞻性路线图，展望模块化AI代理和编排式代理式AI在关键任务领域的融合。总体而言，本文旨在为研究人员提供结构化分类和可操作的洞见，指导下一代代理系统的设计、部署和评估。
A. 方法论概述
本文采用结构化、多阶段方法论，旨在捕捉AI代理和代理式AI的演进、架构、应用和局限性。该过程在图3中以视觉方式总结，描述了本文探索主题的顺序流程。分析框架旨在追踪从基于LLM的基本代理构造到高级多代理编排系统的演进。本文每一步均基于学术资源和AI驱动平台的严谨文献综合，全面理解当前格局及其新兴轨迹。
图3：从基础AI代理到代理式AI系统、应用、局限性和解决方案策略的方法论管道。
本文首先通过分析文献中描述的AI代理核心定义、设计原则和架构模块，建立其基础理解。这些包括感知、推理和行动选择等组件，以及客户服务机器人和检索助手等早期应用。这一基础层作为进入更广泛代理范式的概念入口。
接下来，我们深入探讨LLM作为核心推理组件的作用，强调预训练语言模型如何通过指令微调和人类反馈强化学习（RLHF）支持自然语言交互、规划和有限决策能力。我们还识别其局限性，如幻觉、静态知识和因果推理缺乏。
在此基础上，本文探讨代理式AI的出现，代表了从工具增强单代理系统到协作分布式交互代理生态系统的重大概念飞跃。这一转变由分解目标、分配子任务、协调输出和动态适应变化上下文的需求驱动——这些能力超越了孤立AI代理的提供。
下一节检查从AI代理到代理式AI系统的架构演进，对比简单模块化代理设计与复杂编排框架。我们描述了持久性记忆、元代理协调、多代理规划循环（如ReAct和思维链提示）以及语义通信协议等增强功能。通过AutoGPT、CrewAI和LangGraph等平台的示例支持比较架构分析。
在架构探索之后，本文深入分析AI代理和代理式AI的部署应用领域，包括知识检索、电子邮件自动化和报告摘要等AI代理应用，以及研究助手、机器人群和战略业务规划等代理式AI应用。用例讨论基于系统复杂性、实时决策和协作任务执行。
随后，我们讨论两种范式固有的挑战和局限性。对于AI代理，我们关注幻觉、提示脆弱性、有限规划能力和因果理解不足等问题。对于代理式AI，我们识别更高阶挑战，如代理间失调、错误传播、涌现行为不可预测性、解释性缺陷和对抗性漏洞。这些问题通过近期实验研究和技术报告进行批判性审查。
最后，本文概述了克服这些挑战的潜在解决方案，借鉴因果建模、检索增强生成（RAG）、多代理记忆框架和健壮评估流程的最新进展。这些策略不仅作为技术修复，还作为扩展代理系统到医疗、金融和自主机器人等高风险领域的基础要求。
综上所述，这种方法论结构支持对AI代理和代理式AI状态的全面系统评估。通过在基础理解、模型集成、架构增长、应用和局限性方面顺序分析，本研究旨在为研究人员和从业者提供理论清晰度和实践指导，应对这一快速发展领域。
1) 搜索策略
为构建本文，我们实施了混合搜索方法，结合传统学术存储库和AI增强文献发现工具。具体而言，查询了十二个平台：学术数据库如Google Scholar、IEEE Xplore、ACM Digital Library、Scopus、Web of Science、ScienceDirect和arXiv；以及AI驱动接口如ChatGPT、Perplexity.ai、DeepSeek、Hugging Face Search和Grok。搜索查询采用布尔组合术语，如“AI代理”、“代理式AI”、“LLM代理”、“工具增强LLM”和“多代理AI系统”。
目标查询如“代理式AI + 协调 + 规划”和“AI代理 + 工具使用 + 推理”用于检索探讨概念基础和系统级实现的论文。文献纳入基于新颖性、实证评估、架构贡献和引用影响等标准。图1中利用谷歌趋势数据说明的全球对这些技术的兴趣上升，强调了综合这一新兴知识空间的紧迫性。
AI代理的基础理解
AI代理是设计为在有限数字环境中执行目标导向任务的自主软件实体[14], [39]。这些代理以其感知结构化或非结构化输入[40]、对上下文信息进行推理[41], [42]并发起实现特定目标的行动能力为特征，常作为人类用户或子系统的代理[43]。与遵循确定性工作流程的传统自动化脚本不同，AI代理展示反应性智能和有限适应性，能够解释动态输入并相应调整输出[44]。其应用已在客户服务自动化[45], [46]、个人生产力协助[47]、内部信息检索[48], [49]和决策支持系统[50], [51]等多个领域得到报道。
1) AI代理核心特征概述
AI代理被广泛概念化为人工智能的实例化操作体现，设计为与用户、软件生态系统或数字基础设施交互以追求目标导向行为[52]–[54]。这些代理通过结构化初始化、有限自主性和持续任务导向区别于通用大型语言模型（LLM）。LLM主要作为反应性提示跟随者[55]，而AI代理在明确定义的范围内动态操作，与输入交互并在实时环境中产生可行动输出[56]。
图4：AI代理的核心特征——自主性、任务特异性和反应性——通过代理设计和操作行为的符号表示进行说明。
图4展示了AI代理在架构分类和实证部署中反复出现的三个基础特征：自主性、任务特异性和反应性与适应性。首先，自主性指代理在部署后独立行动的能力，最大限度减少对人工干预的依赖，支持大规模无人值守操作[46], [57]。其次，任务特异性体现了AI代理专为狭窄范围任务优化的设计理念，支持在调度、查询或过滤等定义功能领域内的高性能优化[58], [59]。第三，反应性指代理响应环境变化的能力，包括用户命令、软件状态或API响应；结合适应性时，包括反馈循环和基本学习启发式[17], [60]。
这些特征共同为理解和评估AI代理在部署场景中的表现提供了基础轮廓。本节剩余部分详细阐述每个特征，提供理论依据和示例说明。
- 自主性：AI代理的核心特征是其在部署后无需或最少人工干预即可运行的能力[57]。一旦初始化，这些代理能够感知环境输入、对上下文数据进行推理并实时执行预定义或适应性行动[17]。自主性支持在持续监督不切实际的应用中实现可扩展部署，如客户支持机器人或调度助手[46], [61]。
- 任务特异性：AI代理为狭窄、明确定义的任务而构建[58], [59]。它们优化为在固定领域内执行可重复操作，如电子邮件过滤[62], [63]、数据库查询[64]或日历协调[38], [65]。这种任务专一性支持高效性、可解释性和高精度自动化任务，而通用推理在这些任务中是不必要或低效的。
- 反应性与适应性：AI代理通常包含与动态输入交互的基本机制，支持响应实时刺激，如用户请求、外部API调用或软件环境中的状态变化[17], [60]。一些系统通过反馈循环[67], [68]、启发式[69]或更新上下文缓冲区整合基本学习[66]，随时间优化行为，特别是在个性化推荐或对话流管理等场景中[70]–[72]。
这些核心特征共同使AI代理作为预训练AI模型与特定领域实用管道之间的模块化、轻量级接口。其架构简单性和操作效率使其成为企业、消费者和工业环境中可扩展自动化的关键推动者。虽然与更通用的AI系统相比推理深度有限，但其在受限任务边界内的高可用性和性能使其成为当代智能系统设计的基础组件。
2) 基础模型：LLM和LIM的作用
AI代理的进步显著得益于大型语言模型（LLM）和大型图像模型（LIM）的开发与部署，这些模型作为当代代理系统的核心推理和感知引擎。这些模型使AI代理能够智能地与环境交互，理解多模态输入，并执行超越硬编码自动化的复杂推理任务。
LLM（如GPT-4 [73]和PaLM [74]）在书籍、网络内容和对话语料库的庞大数据集上训练，表现出在自然语言理解、问答、摘要、对话连贯性和符号推理方面的涌现能力[75], [76]。在AI代理架构中，LLM作为主要决策引擎，支持代理解析用户查询、规划多步解决方案并生成上下文适当且情感感知的响应。例如，由GPT-4驱动的AI客户支持代理能够解释客户投诉、通过工具集成查询后端系统并以上下文适当的方式响应[77]。
大型图像模型（LIM，如CLIP [78]和BLIP2 [79]）将代理能力扩展到视觉领域。在图像-文本对上训练，LIM支持图像分类、对象检测和视觉-语言grounding等感知任务。这些能力在机器人[80]、自主车辆[81], [82]和视觉内容审核[83], [84]等领域日益重要。
图5：AI代理驱动的无人机自主检查果园，使用视觉模型识别病果和受损树枝，并触发针对性园艺干预的实时警报。
例如，如图5所示，在执行果园检查的自主无人机代理中，LIM可以通过解释实时航拍图像识别病果或受损树枝，并触发预定义干预协议，如通知园艺人员或标记位置进行针对性处理，无需人工干预[17], [57]。这一工作流程体现了AI代理在农业环境中的自主性和反应性，近期文献强调了此类无人机AI代理的日益复杂性。Chitra等[85]全面概述了支持具身代理的AI算法，强调了计算机视觉、SLAM、强化学习和传感器融合的整合。这些组件共同支持动态环境中的实时感知和适应性导航。Kourav等[86]进一步强调了自然语言处理和大型语言模型在从人类查询生成无人机行动计划中的作用，展示了LLM如何支持自然交互和任务规划。类似地，Natarajan等[87]探讨了深度学习和强化学习在场景理解、空间映射和空中机器人多代理协调中的应用。这些研究一致认为，AI驱动的自主性、感知和决策在推动基于无人机的代理发展中至关重要。
重要的是，LLM和LIM通常通过OpenAI（https://openai.com/）、HuggingFace（https://huggingface.co/）和Google Gemini（https://gemini.google.com/app）等云平台提供的推理API访问。这些服务抽象了模型训练和微调的复杂性，使开发者能够快速构建和部署配备最先进推理和感知能力的代理。这种可组合性加速了原型设计，并使LangChain [88]和AutoGen [89]等代理框架能够跨任务工作流程编排LLM和LIM输出。简而言之，基础模型赋予现代AI代理对语言和视觉的基本理解。语言模型支持其语言推理，图像模型支持其图像理解，二者协同使AI在复杂场景中做出智能决策。
3) 生成式AI作为前驱
文献中一致的主题是将生成式AI定位为代理智能的基础前驱。这些系统主要基于预训练的LLM和LIM，优化为根据输入提示合成新颖内容（如文本、图像、音频或代码）。虽然生成能力强大，但生成模型本质上表现出反应性行为：仅在明确提示时生成输出，不自主追求目标或进行自我发起的推理[90], [91]。生成式AI的关键特征包括：
- 反应性：作为非自主系统，生成模型完全由输入驱动[92], [93]。其操作由用户指定提示触发，缺乏内部状态、持久性记忆或目标跟随机制[94]–[96]。
- 多模态能力：现代生成系统能够产生多样化输出，包括连贯叙事、可执行代码、逼真图像甚至语音记录。例如，GPT-4 [73]、PaLM-E [97]和BLIP-2 [79]等模型展示了语言到图像、图像到文本和跨模态合成任务的能力。
- 提示依赖性和无状态性：生成系统是无状态的，除非明确提供，否则不保留跨交互的上下文[98], [99]。其设计缺乏内在反馈循环[100]、状态管理[101], [102]或多步规划，这是自主决策和迭代目标优化的要求[103], [104]。
尽管生成模型在生成保真度方面表现出色，但其无法独立作用于环境或操作数字工具的局限性使其无法被分类为真正的AI代理，后者的架构在闭合反馈循环中整合感知、决策和外部工具使用。
生成式AI在处理动态任务、保持状态连续性或执行多步计划方面的局限性促成了工具增强系统（通常称为AI代理）的发展[105]。这些系统建立在LLM的语言处理基础上，但引入了记忆缓冲区、工具调用API、推理链和规划例程等附加基础设施，以弥合被动响应生成与主动任务完成之间的差距。这一架构演进标志着AI系统设计的关键转变：从内容创建到自主实用性[106], [107]。从生成系统到AI代理的轨迹凸显了功能的分层叠加，最终支持代理行为的出现。
A. 语言模型作为AI代理进步的引擎
AI代理作为人工智能转型范式的出现与大型语言模型（如GPT-3 [108]、Llama [109]、T5 [110]、Baichuan 2 [111]和GPT3mix [112]）的演进和重新用途密切相关。大量研究证实，从反应性生成模型到自主、目标导向代理的飞跃是由LLM作为动态代理系统中核心推理引擎的整合驱动的。这些模型最初为自然语言处理任务训练，越来越多地嵌入需要适应性规划[113], [114]、实时决策[115], [116]和环境感知行为[117]的框架中。
1) LLM作为核心推理组件
LLM（如GPT-4 [73]、PaLM [74]、Claude（https://www.anthropic.com/news/claude-3-5-sonnet）和LLaMA [109]）通过自监督目标在庞大文本语料库上预训练，并使用监督微调（SFT）和人类反馈强化学习（RLHF）等技术进行微调[118], [119]。这些模型编码了丰富的统计和语义知识，支持推理、摘要、代码生成和对话管理等任务。在代理场景中，其能力被重新用于不仅仅生成响应，而是作为认知基底，解释用户目标、生成行动计划、选择工具和管理多轮工作流程。
近期研究确认这些模型是当代代理系统的核心架构。例如，AutoGPT [30]和BabyAGI（https://github.com/yoheinakajima/babyagi）使用GPT-4作为规划者和执行者：模型分析高级目标，将其分解为可行动子任务，根据需要调用外部API，并监控进展以确定后续行动。在此类系统中，LLM在提示处理、状态更新和基于反馈的校正循环中运行，近似模拟自主决策。
2) 工具增强AI代理：增强功能
为克服生成系统固有的局限性（如幻觉、静态知识截止和受限交互范围），研究者提出了工具增强LLM代理的概念[120]，如Easytool [121]、Gentopia [122]和ToolFive [123]。这些系统将外部工具、API和计算平台集成到代理的推理管道中，支持实时信息访问、代码执行和与动态数据环境的交互。
- 工具调用：当代理识别到无法通过内部知识解决的需求（如查询当前股价、检索最新天气信息或执行脚本）时，会生成结构化函数调用或API请求[124], [125]。这些调用通常以JSON、SQL或Python格式化，具体取决于目标服务，并通过执行任务的编排层路由。
- 结果整合：从工具接收响应后，输出被解析并重新整合到LLM的上下文窗口中。这使代理能够合成新的推理路径、更新任务状态并决定下一步。ReAct框架[126]通过结合推理（思维链提示）和行动（工具使用），体现了这一架构，LLM在内部认知和外部环境交互之间交替。
3) 示例与新兴能力
工具增强LLM代理在多种应用中展示了能力。在AutoGPT [30]中，代理可能通过顺序查询网络、编译竞争对手数据、总结洞见和生成报告来规划产品市场分析。在编码场景中，GPTEngineer等工具结合LLM驱动的设计与本地代码执行环境，迭代开发软件工件[127], [128]。在研究领域，Paper-QA [129]等系统利用LLM查询矢量化学术数据库，通过检索科学文献确保答案的事实完整性。
这些能力为AI代理更健壮的行为开辟了途径，如长期规划、跨工具协调和适应性学习循环。然而，工具的纳入也引入了编排复杂性、错误传播和上下文窗口限制等新挑战，这些均为活跃研究领域。AI代理的进步离不开LLM作为推理引擎的战略整合及其通过结构化工具使用的增强。这种协同作用将静态语言模型转变为能够感知、规划、行动和适应的动态认知实体，为多代理协作、持久性记忆和可扩展自主性奠定了基础。
图6：AI代理执行实时新闻搜索、摘要和答案生成的工作流程，如文献中常见描述（例如，作者，年份）。
图6展示了一个代表性案例：新闻查询代理执行实时网络搜索、总结检索文档并生成清晰、上下文感知的答案。此类工作流程已在使用LangChain、AutoGPT和OpenAI函数调用范式的实现中得到展示。
III. 从AI代理基础到代理式AI的出现
尽管AI代理通过工具增强推理在自动化狭窄任务方面显著提升了人工智能能力，但近期文献指出其在复杂、多步骤或协作场景中的可扩展性受限[130]–[132]。这些限制催化了更高级范式的发展：代理式AI。这一新兴系统类别通过支持多个智能实体通过结构化通信[133]–[135]、共享记忆[136], [137]和动态角色分配[14]协作追求目标，扩展了传统代理的能力。
1) 概念飞跃：从孤立任务到协调系统
如前文所述，AI代理通过整合大型语言模型（LLM）与外部工具和API执行狭窄范围操作，如响应客户查询、执行文档检索或管理日程。然而，随着用例日益要求上下文保留、任务相互依赖和跨动态环境的适应性，单代理模型显得不足[138], [139]。
代理式AI系统代表了一种新兴的智能架构类别，其中多个专业化代理协作实现复杂、高级目标。如近期框架定义，这些系统由模块化代理组成，每个代理负责更广泛目标的子组件，通过集中式编排器或去中心化协议协调[16], [134]。这一结构标志着从单代理架构中常见的原子、反应性行为向系统级智能的转变，特征为动态代理间协作。
这一范式的关键推动力是目标分解，其中用户指定目标由规划代理自动解析并分解为更小的可管理任务[38]。这些子任务随后在代理网络中分配。多步推理和规划机制支持这些子任务的动态排序，使系统能够实时适应环境变化或部分任务失败，确保在不确定性下的健壮任务执行[14]。
代理间通信通过分布式通信通道（如异步消息队列、共享记忆缓冲区或中间输出交换）进行调解，支持无需持续集中监督的协调[14], [140]。此外，反思推理和记忆系统使代理能够跨多次交互存储上下文，评估过去决策并迭代优化策略[141]。这些能力共同使代理式AI系统展现出超越个体代理操作限制的灵活、适应性和协作智能。
图7：AI代理与代理式AI的比较插图，综合了文献中发现的概念区别（例如，作者，年份）。左侧：单一任务AI代理。右侧：多代理、协作代理式AI系统。
文献中广泛接受的概念插图通过智能家居系统的类比描绘了AI代理与代理式AI的区别。如图7所示，左侧表示传统AI代理形式的智能恒温器。这一独立代理接收用户定义的温度设置并自主控制加热或冷却系统以维持目标温度。尽管它展示有限自主性（如学习用户日程或在无人时降低能耗），但其操作孤立，执行单一、明确定义的任务，不参与更广泛的环境协调或目标推断[17], [57]。
相比之下，图7右侧展示了嵌入全面智能家居生态系统的代理式AI系统。多个专业化代理协同管理天气预报、日常调度、能源价格优化、安全监控和备用电源激活等多样化方面。这些代理不仅是反应性模块；它们动态通信、共享记忆状态并协作调整行动以实现高级系统目标（如实时优化舒适性、安全性和能效）。例如，天气预报代理可能发出即将到来的热浪信号，提示能源管理代理在高峰价格小时前通过太阳能进行预冷。同时，系统可能延迟高能耗任务或在无人时激活监控系统，跨领域整合决策。这一图示体现了从特定任务自动化到适应性、编排式智能的架构和功能飞跃。AI代理作为具有有限范围的确定性组件，而代理式AI反映分布式智能，特征为目标分解、代理间通信和上下文适应，这是现代代理式AI框架的标志。
2) AI代理与代理式AI的关键区别
为系统捕捉从生成式AI到AI代理再到代理式AI的演进，我们围绕基础分类结构比较分析，其中生成式AI作为基准。虽然AI代理和代理式AI代表日益自主和交互的系统，但两者均根植于生成架构，特别是LLM和LIM。因此，本小节中的每个比较表均包含生成式AI作为参考列，以突出代理行为如何从生成基础中分化和构建。
表I：AI代理与代理式AI的关键差异
特征 | AI代理 | 代理式AI |
定义 | 执行特定任务的自主软件程序 | 多个AI代理协作以实现复杂目标的系统 |
自主性水平 | 在特定任务内具有高自主性 | 更高自主性，能管理多步骤、复杂任务 |
任务复杂性 | 通常处理单一、特定任务 | 处理需要协调的复杂、多步骤任务 |
协作 | 独立操作 | 涉及多代理协作和信息共享 |
学习与适应 | 在特定领域内学习和适应 | 跨更广泛的任务和环境学习和适应 |
应用 | 客户服务聊天机器人、虚拟助手、自动化工作流程 | 供应链管理、业务流程优化、虚拟项目管理 |
通过对AutoGen [89]和ChatDev [142]等著名框架的深入分析，表I综合了AI代理与代理式AI在范围、自主性、架构组成、协调策略和操作复杂性方面的基础区别。这些比较提供了单代理系统如何过渡到协调多代理生态系统的多维视角。通过生成能力的视角，我们追踪了规划、通信和适应性的日益复杂性，标志着向代理式AI的转变。
虽然表I描述了AI代理与代理式AI的基础和操作差异，但需要更细粒度的分类以理解这些范式如何从更广泛的生成框架中出现并与之相关。具体而言，从静态生成式AI系统到工具增强AI代理，再到协作代理式AI生态系统的概念和认知进步需要一个综合比较框架。这一转变不仅是结构性的，还涉及功能性——涵盖了发起机制、记忆使用、学习能力和编排策略如何跨代理谱系演进。此外，近期研究表明出现了混合范式，如“生成式代理”（Generative Agents），结合生成建模与模块化任务专一性，进一步复杂化了代理格局。为捕捉这些细微关系，表II综合了生成式AI、AI代理、代理式AI和推断生成式代理四个原型的关键概念和认知维度。通过将生成式AI定位为基准技术，这一分类突出了从被动内容生成到交互任务执行再到自主多代理编排的科学连续性。这一多层次视角对于理解代理智能在应用和理论领域的当前能力与未来轨迹至关重要。
表II：AI代理范式的分类总结：概念与认知维度
概念维度 | 生成式AI | AI代理 | 代理式AI | 生成式代理（推断） |
发起类型 | 用户或输入触发的提示 | 提示或目标触发，结合工具使用 | 目标发起或编排任务 | 提示或系统级触发 |
目标灵活性 | （无）每提示固定 | （低）执行特定目标 | （高）分解和适应目标 | （低）受子任务目标引导 |
时间连续性 | 无状态、单会话输出 | 任务内的短期连续性 | 跨工作流程阶段的持久性 | 受限于子任务的上下文 |
学习/适应 | 静态（预训练） | 工具选择策略可能演变 | 从结果中学习 | 通常静态；适应性有限 |
记忆使用 | 无记忆或短上下文窗口 | 可选记忆或工具缓存 | 共享情景/任务记忆 | 子任务本地或上下文记忆 |
协调策略 | 无（单步过程） | 孤立任务执行 | 层次或去中心化协调 | 从系统接收指令 |
系统角色 | 内容生成器 | 使用工具的任务执行者 | 协作工作流程编排者 | 子任务级模块化生成器 |
为进一步操作化表I中概述的区别，表III和II扩展了比较视角，涵盖更广泛的代理范式，包括AI代理、代理式AI和新兴生成式代理。表III展示了关键架构和行为属性，突出了每个范式在主要能力、规划范围、交互风格、学习动态和评估标准方面的差异。AI代理优化为有限规划范围的离散任务执行，依赖监督或基于规则的学习机制。相比之下，代理式AI通过多步规划、元学习和代理间通信扩展了这一能力，定位于需要自主目标设定和协调的复杂环境。生成式代理作为更近期构造，继承了以LLM为中心的预训练能力，擅长创造性地产生多模态内容，但缺乏代理式AI系统中看到的主动编排和状态持久行为。
表III：AI代理、代理式AI和生成式代理的关键属性
方面 | AI代理 | 代理式AI | 生成式代理 |
主要能力 | 任务执行 | 自主目标设定 | 内容生成 |
规划范围 | 单步 | 多步 | 无（仅内容） |
学习机制 | 基于规则或监督学习 | 强化学习/元学习 | 大规模预训练 |
交互风格 | 反应性 | 主动性 | 创造性 |
评估重点 | 准确性、延迟 | 参与度、适应性 | 连贯性、多样性 |
第二个表（表III）提供了基于过程的比较，涵盖生成式AI、AI代理和代理式AI三个代理类别。这一框架强调了功能管道如何从生成式AI的提示驱动单模型推理演变为AI代理的工具增强执行，再到代理式AI的编排代理网络。结构列强调了这一进展：从单一LLM到集成工具链，最终到分布式多代理系统。外部数据的访问作为现实世界实用性的关键操作要求，也在复杂性上增加，从生成式AI中的缺席或可选到代理式AI中的模块化和协调。总体而言，这些比较视角强化了从生成到代理范式的演进不仅表现为系统复杂性的增加，还表现为自主性、记忆和多层次抽象决策的更深入整合。
此外，为提供更深入的多维理解代理格局的演进，表V至IX扩展了比较分类，剖析五个关键维度：核心功能与目标对齐、架构组成、操作机制、范围与复杂性和交互-自主性动态。这些维度不仅强化了生成式AI、AI代理和代理式AI之间的结构差异，还引入了生成式代理这一新兴类别，代表为更广泛工作流程中嵌入子任务级生成设计的模块化代理。表V定位了三个范式在总体目标和功能意图方面的差异。生成式AI聚焦于提示驱动的内容生成，AI代理强调基于工具的任务执行，而代理式AI通过多个子代理的编排追求高级目标。这一功能扩展在表VI的架构上得到反映，系统设计从生成式AI的单模型依赖过渡到代理式AI的多代理编排和共享记忆利用。表VII随后概述了这些范式在工作流程执行路径上的差异，突出了代理间协调和层次通信作为代理行为的驱动因素。
表IV：生成式AI、AI代理和代理式AI的比较
特征 | 生成式AI | AI代理 | 代理式AI |
核心功能 | 内容生成 | 任务特定执行，使用工具 | 复杂工作流程自动化 |
机制 | 提示 → LLM → 输出 | 提示 → 工具调用 → LLM → 输出 | 目标 → 代理编排 → 输出 |
结构 | 单一模型 | LLM + 工具 | 多代理系统 |
外部数据访问 | 无（除非添加） | 通过外部API | 协调的多代理访问 |
关键特性 | 反应性 | 工具使用 | 协作 |
此外，表VIII探索了这些系统处理任务多样性、时间尺度和操作健壮性的能力增加，从孤立内容生成到动态环境中的适应性多代理协作。最后，表IX综合了各范式在自主性水平、交互风格和决策粒度上的差异。这些表共同建立了分类和分析基于代理的AI系统的严谨框架，为自主、协作智能代理的原则性评估和未来设计奠定了基础。
表V：按核心功能和目标的比较
特征 | 生成式AI | AI代理 | 代理式AI | 生成式代理（推断） |
主要目标 | 基于提示创建新颖内容 | 使用外部工具执行特定任务 | 自动化复杂工作流程或实现高级目标 | 在工作流程中执行特定生成子任务 |
核心功能 | 内容生成（文本、图像、音频等） | 与外部交互的任务执行 | 工作流程编排和目标实现 | 工作流程内的子任务内容生成 |
表VI：按架构组件的比较
组件 | 生成式AI | AI代理 | 代理式AI | 生成式代理（推断） |
核心引擎 | LLM / LIM | LLM | 多个LLM（可能多样化） | LLM |
提示 | 是（输入触发） | 是（任务引导） | 是（系统目标和代理任务） | 是（子任务引导） |
工具/API | 无（固有） | 是（必要） | 是（构成代理可用） | 可能（若子任务需要） |
多代理 | 无 | 无 | 是（必要；协作） | 无（为个体代理） |
编排 | 无 | 无 | 是（隐式或显式） | 无（作为编排的一部分） |
表VII：按操作机制的比较
机制 | 生成式AI | AI代理 | 代理式AI | 生成式代理（推断） |
主要驱动 | 对提示的反应性 | 任务执行的工具调用 | 代理间通信和协作 | 对输入或子任务提示的反应性 |
交互模式 | 用户 → LLM | 用户 → 代理 → 工具 | 用户 → 系统 → 代理 | 系统/代理 → 代理 → 输出 |
工作流程处理 | 单次生成步骤 | 单一任务执行 | 多步骤工作流程协调 | 工作流程内的单步骤 |
信息流 | 输入 → 输出 | 输入 → 工具 → 输出 | 输入 → 代理1 → 代理2 → ... → 输出 | 输入（来自系统/代理） → 输出 |
表VIII：按范围和复杂性的比较
方面 | 生成式AI | AI代理 | 代理式AI | 生成式代理（推断） |
任务范围 | 单一生成内容 | 单一、特定、定义的任务 | 复杂、多方面的目标或工作流程 | 特定子任务（通常为生成性） |
复杂性 | 低（相对） | 中等（整合工具） | 高（多代理协调） | 低至中等（一个任务组件） |
示例（视频） | 聊天机器人 | Tavily搜索代理 | YouTube到博客转换系统 | 标题/描述/结论生成器 |
表IX：按交互和自主性的比较
特征 | 生成式AI | AI代理 | 代理式AI | 生成式代理（推断） |
自主性水平 | 低（需要提示） | 中等（自主使用工具） | 高（管理整个过程） | 低至中等（执行子任务） |
外部交互 | 无（基线） | 通过特定工具或API | 通过多个代理/工具 | 可能通过工具（若需要） |
内部交互 | 不适用 | 不适用 | 高（代理间） | 从系统或代理接收输入 |
决策制定 | 模式选择 | 工具使用决策 | 目标分解和分配 | 最佳子任务生成策略 |
表V至IX中的每个比较表提供了分层分析视角，以隔离生成式AI、AI代理和代理式AI的区别属性，从而将概念分类扎根于具体的操作和架构特征。例如，表V解决了最基础的区分层：核心功能和系统目标。生成式AI狭窄聚焦于基于用户提示的反应性内容生成，AI代理以其使用外部工具执行目标任务的能力为特征，而代理式AI通过多个子代理的编排追求高级目标的能力定义。从输出生成到工作流程执行的转变标志着自主系统演进的关键转折点。
在表VI中，架构差异被明确，特别是系统组成和控制逻辑方面。生成式AI依赖单一模型，没有内置的工具使用或委托能力，而AI代理结合语言模型与辅助API和接口机制增强功能。代理式AI进一步扩展，通过引入多代理系统，协作、记忆持久性和编排协议成为系统操作的核心。这一扩展对于实现智能委托、上下文保留和动态角色分配能力至关重要，这些能力在生成式和单代理系统中缺失。同样，表VII深入探讨了这些系统在操作上的功能差异，强调执行逻辑和信息流的区别。与生成式AI的线性管道（提示 → 输出）不同，AI代理实施程序机制以在过程中整合工具响应。代理式AI引入递归任务重新分配和跨代理消息传递，从而促进无法通过静态LLM输出捕获的涌现决策。表VIII进一步强化了这些区别，通过映射每个系统处理任务多样性、时间尺度和操作健壮性的能力。在这里，代理式AI成为唯一能够支持需要适应性、多阶段推理和执行策略的高复杂性目标的系统。
此外，表IX清晰地突出了生成式AI、AI代理和代理式AI在操作和行为上的区别，特别关注自主性水平、交互风格和代理间协调。生成式AI系统，如GPT-3 [108]和DALL·E（https://openai.com/index/dall-e-3/），保持反应性，仅响应提示生成内容，不维持持久状态或进行迭代推理。相比之下，AI代理，如基于LangChain [88]或MetaGPT [143]构建的代理，展现更高程度的自主性，能够发起外部工具调用并在有限任务内适应行为。然而，其自主性通常局限于孤立任务执行，缺乏长期状态连续性或协作交互。
代理式AI系统通过引入内部编排机制和多代理协作框架标志着与这些范式的重大背离。例如，AutoGen [89]和ChatDev [142]等平台通过任务分解、角色分配和递归反馈循环体现了代理式协调。在AutoGen中，一个代理可能作为规划者，另一个检索信息，第三个合成报告，每个代理通过共享记忆缓冲区通信，并由监控依赖关系和整体任务进展的编排器代理管理。这种结构化协调支持更复杂的目标追求和动态环境中的灵活行为。此类架构从根本上将智能的焦点从单一模型输出转移到涌现的系统级行为，其中代理基于演变任务状态学习、协商和更新决策。因此，比较分类不仅突出了操作独立性的增加，还展示了代理式AI如何引入通信、记忆整合和去中心化控制的新范式，为下一代具有可扩展、适应性智能的自主系统铺平道路。
A. 架构演进：从AI代理到代理式AI系统
图8：展示了从传统AI代理到现代代理式AI系统的架构演进。从核心模块（感知、推理、行动）开始，扩展到高级组件，包括专业化代理、高级推理与规划、持久性记忆和编排。图表进一步捕捉了多代理协作、系统协调、共享上下文和任务分解等涌现属性，所有这些都被包含在表示分层模块化和向分布式、适应性代理式AI智能过渡的虚线边界内。
虽然AI代理和代理式AI系统均基于模块化设计原则，但代理式AI显著扩展了基础架构，支持更复杂、分布式和适应性行为。如图8所示，这一转变始于定义传统AI代理的核心子系统——感知、推理和行动。代理式AI通过整合高级组件（如专业化代理、高级推理与规划、持久性记忆和编排）增强了这一基础。图表进一步强调了涌现能力，包括多代理协作、系统协调、共享上下文和任务分解，所有这些都被包含在表示向反思性、去中心化和目标驱动系统架构转变的虚线边界内。这一进展标志着智能代理设计的关键转折点。本节综合了LangChain [88]、AutoGPT [89]和TaskMatrix [144]等实证框架的发现，突出了架构复杂性的进展。
1) AI代理的核心架构组件
基础AI代理通常由四个主要子系统组成：感知、推理、行动和学习。这些子系统形成闭合操作循环，从用户界面视角常称为“理解、思考、行动”，在系统设计文献中称为“输入、处理、行动、学习”[14], [145]。
- 感知模块：此子系统接收来自用户（如自然语言提示）或外部系统（如API、文件上传、传感器流）的输入信号，负责将数据预处理为代理推理模块可解释的格式。例如，在基于LangChain的代理中[88], [146]，感知层处理提示模板化、上下文包装和通过文档分块和嵌入搜索的检索增强。
- 知识表示与推理（KRR）模块：代理智能的核心在于KRR模块，它对输入数据应用符号、统计或混合逻辑。技术包括基于规则的逻辑（如if-then决策树）、确定性工作流引擎和简单规划图。AutoGPT [30]等代理的推理通过函数调用和提示链增强，模拟思维过程（如“逐步”提示或中间工具调用）。
- 行动选择与执行模块：此模块使用行动库将推断决策转换为外部行动，行动可能包括发送消息、更新数据库、查询API或产生结构化输出。执行通常由LangChain的“代理执行器”等中间件管理，将LLM输出链接到工具调用并观察后续步骤的响应[88]。
- 基本学习与适应：传统AI代理具有有限的学习机制，如启发式参数调整[147], [148]或基于历史的上下文保留。例如，代理可能使用简单记忆缓冲区回忆先前用户输入，或应用评分机制改进未来迭代中的工具选择。
这些代理的定制通常涉及特定领域的提示工程、规则注入或工作流模板，通过其上下文感知决策能力区别于硬编码自动化脚本。ReAct [126]等系统体现了这一架构，在迭代框架中结合推理和行动，代理在选择外部行动前模拟内部对话。
2) 代理式AI的架构增强
代理式AI系统继承了AI代理的模块化，但扩展了其架构以支持分布式智能、代理间通信和递归规划。文献记录了许多区分代理式AI与其前身的的关键架构增强[149], [150]。
- 专业化代理集合：代理式AI系统不是作为单一单元操作，而是由多个代理组成，每个代理分配特定功能，如摘要者、检索者、规划者。这些代理通过通信通道（如消息队列、黑板或共享记忆）交互。例如，MetaGPT [143]通过模拟企业部门（如CEO、CTO、工程师）建模代理，角色模块化、可重用且角色绑定。
- 高级推理与规划：代理式系统嵌入递归推理能力，使用ReAct [126]、思维链（CoT）提示[151]和思维树[152]等框架。这些机制使代理将复杂任务分解为多个推理阶段，评估中间结果并动态重新规划行动，支持系统适应不确定性或部分失败。
- 持久性记忆架构：与传统代理不同，代理式AI整合记忆子系统以跨任务周期或代理会话持久化知识[153], [154]。记忆类型包括情景记忆（任务特定历史）[155], [156]、语义记忆（长期事实或结构化数据）[157], [158]和用于检索增强生成（RAG）的矢量记忆[159], [160]。例如，AutoGen [89]代理维护用于中间计算的暂存板，支持逐步任务进展。
- 编排层/元代理：代理式AI的关键创新是引入编排器——元代理，协调子代理的生命周期、管理依赖关系、分配角色和解决冲突。编排器通常包括任务管理器、评估器或调解者。例如，在ChatDev [142]中，虚拟CEO元代理将子任务分配给部门代理，并将其输出整合为统一战略响应。
这些增强共同使代理式AI支持需要持续上下文、分布式劳动、多模态协调和战略适应的场景。用例范围从协同检索、摘要和起草文档的研究助手（如AutoGen管道[89]）到并行监控物流、供应商性能和动态定价模型的智能供应链代理。
从孤立的感知-推理-行动循环到协作和反思性多代理工作流程的转变标志着智能系统架构设计的关键转折点。这一进展将代理式AI定位为下一阶段AI基础设施，不仅能够执行预定义工作流程，还能以最少人工监督构建、修订和管理跨代理的复杂目标。
AI代理与代理式AI的应用
图9：AI代理和代理式AI在八个核心功能领域的分类应用。
为阐明AI代理与代理式AI系统的现实世界实用性和操作差异，本研究综合了近期文献中的一系列应用，如图9所示。我们系统地分类并分析了两个并行轨道的应用领域：传统AI代理系统及其更高级的代理式AI对应物。对于AI代理，审查了四个主要用例：（1）客户支持自动化与内部企业搜索，单代理模型处理结构化查询和响应生成；（2）电子邮件过滤与优先级排序，代理通过分类启发式协助用户管理高容量通信；（3）个性化内容推荐与基础数据报告，分析用户行为以实现自动化洞见；（4）自主调度助手，解释日历并以最少用户输入预订任务。相比之下，代理式AI应用涵盖更广泛、更动态的能力，通过四个额外类别审查：（1）多代理研究助手，协作检索、合成和起草科学内容；（2）智能机器人协调，包括农业和物流中的无人机和多机器人系统；（3）协作医疗决策支持，涉及诊断、治疗和监控子系统；（4）多代理游戏AI与适应性工作流程自动化，去中心化代理战略交互或处理复杂任务管道。
1) AI代理的应用
a) 客户支持自动化与内部企业搜索
AI代理在企业环境中广泛应用于客户支持自动化和内部知识检索。在客户服务中，这些代理利用检索增强大型语言模型（LLM）与API和组织知识库接口，回答用户查询、分流票据并执行订单跟踪或退货启动等操作[46]。对于内部企业搜索，基于矢量存储（如Pinecone、Elasticsearch）的代理响应自然语言查询检索语义相关文档。Salesforce Einstein（https://www.salesforce.com/artificial-intelligence/）、Intercom Fin（https://www.intercom.com/fin）和Notion AI（https://www.notion.com/product/ai）等工具展示了结构化输入处理和摘要能力如何减少工作量并提升企业决策。
图10a展示了一个跨国电子商务公司部署基于AI代理的客户支持和内部搜索助手的实际示例。对于客户支持，AI代理与公司客户关系管理（CRM）系统（如Salesforce）和履行API集成，解决“我的订单在哪里？”或“如何退货？”等查询。在毫秒内，代理从运输数据库和政策存储库检索上下文数据，然后使用检索增强生成个性化响应。对于内部企业搜索，员工使用同一系统查询过去会议记录、销售演示或法律文档。当人力资源经理输入“总结去年关键福利政策变化”时，代理查询嵌入企业文档的Pinecone矢量存储，按语义相似性排序结果，并返回简洁摘要及源链接。这些能力不仅减少票据量和支持开销，还最大限度减少了搜索机构知识的时间。结果是一个统一的响应系统，通过模块化AI代理架构增强外部服务交付和内部运营效率。
b) 电子邮件过滤与优先级排序
在生产力工具中，AI代理通过内容分类和优先级排序自动化电子邮件分流。与Microsoft Outlook和Superhuman等系统集成，这些代理分析元数据和消息语义以检测紧急程度、提取任务并推荐回复。它们应用用户调整的过滤规则、行为信号和意图分类以减少认知负担。自主行动，如自动标记或摘要线程，通过增量学习嵌入反馈循环增强效率[61]。
图10b展示了AI代理在电子邮件过滤与优先级排序领域的实际实现。在现代工作环境中，用户面临高容量电子邮件，导致认知超载和关键通信遗漏。嵌入Microsoft Outlook或Superhuman的AI代理作为智能中介，分类、聚类和分流传入消息。这些代理评估元数据（如发件人、主题行）和语义内容以检测紧急程度、提取可行动项并建议智能回复。如图所示，AI代理自主将电子邮件分类为“紧急”、“跟进”和“低优先级”等标签，同时提供上下文感知的摘要和回复草稿。通过持续反馈循环和使用模式，系统适应用户偏好，逐步优化分类阈值并提高优先级准确性。这种自动化减轻了决策疲劳，使用户专注于高价值任务，同时在快节奏、信息密集的环境中保持高效通信管理。
c) 个性化内容推荐与基础数据报告
AI代理通过分析行为模式支持自适应个性化，用于新闻、产品或媒体推荐。Amazon、YouTube和Spotify等平台部署这些代理，通过协作过滤、意图检测和内容排名推断用户偏好。同时，Tableau Pulse、Power BI Copilot等分析系统中的AI代理通过将提示转换为结构化数据库查询和视觉摘要，支持自然语言数据查询和自动化报告生成，民主化了商业智能访问。
图10c展示了AI代理在个性化内容推荐和基础数据报告中的实际应用，常见于电子商务和企业分析系统。以部署在Amazon等零售平台的AI代理为例：当用户浏览、点击和购买商品时，代理持续监控交互模式，如停留时间、搜索查询和购买序列。使用协作过滤和基于内容的排名，代理推断用户意图并动态生成随时间演变的个性化产品建议。例如，购买园艺工具后，用户可能被推荐兼容的土壤传感器或相关书籍。这种个性化水平提升了客户参与度、增加了转化率并支持长期用户保留。同时，在企业环境中，集成到Power BI Copilot的AI代理允许非技术员工使用自然语言请求洞见，例如“比较东北地区第三季度和第四季度销售”。代理将提示转换为结构化SQL查询，从数据库中提取模式，并输出简洁的视觉摘要或叙述报告。这种应用减少了对数据分析师的依赖，通过直观的语言驱动界面赋能更广泛的业务决策。
d) 自主调度助手
与日历系统集成的AI代理自主管理会议协调、重新调度和冲突解决。x.ai和Reclaim AI等工具解释模糊调度命令，访问日历API，并使用学习到的用户偏好识别最佳时间段。它们最大限度减少人工输入，同时适应动态可用性约束。其与企业系统接口并响应模糊指令的能力突显了当代调度代理的模块化自主性。
图10d展示了在企业环境中自主调度代理的实际应用，员工需管理跨全球时区的多项重叠职责。以集成Google Calendar和Slack的执行助理AI代理为例，该代理解释“下周为产品团队安排45分钟跟进会议”命令。代理解析请求，检查所有参与者的可用性，考虑时区差异，并避免会议冲突或工作时间违规。如果发现与先前安排任务的冲突，代理自主提出替代时间窗口并通过Slack集成通知受影响的与会者。此外，代理从历史用户偏好中学习（如避免周五早会）并随时间优化建议。Reclaim AI和Clockwise等工具体现了这种能力，提供日历感知自动化，适应不断变化的工作负载。此类助手通过主动解决模糊性和优化日历利用率，减少协调开销、提高调度效率并支持更顺畅的团队工作流程。
2) 代理式AI的应用
a) 多代理研究助手
代理式AI系统在学术和工业研究管道中日益部署，自动化多阶段知识工作。AutoGen和CrewAI等平台为多个代理分配专业角色——检索者、摘要者、合成者和引文格式化者——由中央编排器管理。编排器分配任务、管理角色依赖并将输出整合成连贯的草稿或评论摘要。持久性记忆支持跨代理上下文共享和随时间优化。这些系统用于文献综述、资助准备和专利搜索管道，通过并发子任务执行和长上下文管理优于ChatGPT等单代理系统[89]。
图11a展示了一个现实世界的应用示例：大学研究小组使用基于AutoGen的架构为国家科学基金会（NSF）提交资助提案。不同代理被分配：一个检索先前资助提案并提取结构模式；另一个扫描近期文献以摘要相关工作；第三个代理将提案目标与NSF征集语言对齐；格式化代理按合规指南结构化文档。编排器协调这些代理，解决依赖关系（如对齐方法与目标）并确保章节间的风格一致性。持久性记忆模块存储演变的草稿、协作反馈和资助机构模板，支持多次会话的迭代改进。与传统手动流程相比，这一多代理系统显著加速了起草时间，改善了叙述连贯性并确保法规对齐，为学术和研发密集型行业提供了可扩展、适应性的协作科学写作方法。
b) 智能机器人协调
在机器人和自动化领域，代理式AI支撑多机器人系统的协作行为。每个机器人作为任务专业化代理（如拾取者、运输者或映射者），由编排器监督并调整工作流程。这些架构依赖共享空间记忆、实时传感器融合和代理间同步以实现协调的物理行动。用例包括仓库自动化、基于无人机的果园检查和机器人收获[143]。例如，农业无人机群可能集体映射树行，识别病果并启动机械干预。这种动态分配支持在不确定或演变环境中实现实时重新配置和自主性。
图11b展示了在商业苹果园中的应用，代理式AI使协调的多机器人系统优化收获季节。任务专业化机器人（如自主拾取者、果实分类器、运输机器人和无人机映射者）作为代理单元在中央编排器下操作。映射无人机首先勘测果园，使用视觉-语言模型（VLM）生成高分辨率产量图并识别成熟果簇。这些空间数据通过所有代理可访问的集中记忆层共享。拾取机器人被分配到高密度区域，由优化障碍物和劳动区域路径的路径规划代理引导。同时，运输代理动态在拾取者和存储间运输箱体，根据拾取者负载水平和地形变化调整任务。所有代理通过共享协议异步通信，编排器根据天气预报或机械故障持续调整任务优先级。如果一个拾取者失败，附近单元自主重新分配工作负载。这种适应性、记忆驱动的协调体现了代理式AI在降低劳动成本、提高收获效率和应对复杂农业环境不确定性方面的潜力，远超传统农业机器人的刚性编程[89], [143]。
c) 协作医疗决策支持
在高风险临床环境中，代理式AI通过将诊断、生命体征监测和治疗规划等任务分配给专业化代理，支持分布式医疗推理。例如，一个代理检索患者病史，另一个根据诊断指南验证发现，第三个提出治疗选项。这些代理通过共享记忆和推理链同步，确保连贯、安全的推荐。应用包括ICU管理、放射学分流和疫情响应。现实世界的试点显示，与孤立专家系统相比，效率和决策准确性有所提高[87]。
图11c展示了在医院ICU中的应用，代理式AI系统支持临床医生管理复杂患者病例。诊断代理持续分析生命体征和实验室数据以早期检测脓毒症风险。同时，病史检索代理访问电子健康记录（EHR）以摘要合并症和近期手术。治疗规划代理根据当前症状交叉参考临床指南（如存活脓毒症运动），提出抗生素方案或液体协议。编排器整合这些洞见，确保一致性并将冲突提交人工审查。医生的反馈存储在持久性记忆模块中，使代理根据先前干预和结果优化推理。这种协调系统通过减少认知负荷、缩短决策时间和最小化疏忽风险增强临床工作流程。早期在重症监护和肿瘤科的部署显示出诊断精度的提高和对循证协议的更好遵循，为更安全、实时的协作医疗支持提供了可扩展的解决方案。
d) 多代理游戏AI与适应性工作流程自动化
在模拟环境和企业系统中，代理式AI促进去中心化任务执行和涌现协调。AI Dungeon等游戏平台部署具有目标、记忆和动态交互性的独立NPC代理，创建涌现叙事和社会行为。在企业工作流程中，MultiOn和Cognosys等系统使用代理管理法律审查或事件升级等过程，每一步由专业化模块管理。这些架构展示出韧性、异常处理和反馈驱动的适应性，远超基于规则的管道。
图11d展示了现代企业IT环境中代理式AI系统的应用，自主管理网络安全事件响应工作流程。当检测到潜在威胁（如异常访问模式或未经授权的数据泄露）时，专业化代理并行激活。一个代理使用历史漏洞数据和异常检测模型执行实时威胁分类。第二个代理查询网络节点的日志数据并关联系统模式。第三个代理解释合规框架（如GDPR或HIPAA）以评估事件的监管严重性。第四个代理模拟缓解策略并预测操作风险。这些代理在评估集体输出的中央编排器下协调，整合时间推理并向人类分析师发布推荐行动。通过共享记忆结构和迭代反馈，系统从先前事件中学习，支持未来更快、更准确的响应。与传统基于规则的安全系统相比，这一代理模型增强了决策延迟、减少了误报并支持大规模组织基础设施中的主动威胁遏制[89]。
AI代理与代理式AI的挑战与局限性
为系统理解当前智能系统的操作和理论局限性，我们在图12中呈现了比较视觉综合，分类了AI代理和代理式AI范式的挑战和潜在补救措施。图12a概述了AI代理的四个最紧迫局限性：因果推理缺乏、继承的大型语言模型（LLM）约束（如幻觉、浅层推理）、不完整的代理属性（如自主性、主动性）以及长期规划和恢复失败。这些挑战常因其依赖无状态LLM提示、有限记忆和启发式推理循环而产生。
图12：代理范式的挑战与解决方案。(a) AI代理的关键局限性，包括因果缺陷和浅层推理。(b) 代理式AI系统中放大的协调和稳定性挑战。
相比之下，图12b识别了代理式AI系统的八个关键瓶颈，如代理间错误级联、协调崩溃、涌现不稳定性、可扩展性限制和解释性问题。这些挑战源于在无标准化架构、健壮通信协议或因果对齐框架的情况下编排多代理的复杂性。
图13：十个新兴架构和算法解决方案，如RAG、工具使用、记忆、编排和反思机制，解决可靠性、可扩展性和解释性问题。
图13补充了这一诊断框架，综合了十个前瞻性设计策略，旨在缓解这些局限性，包括检索增强生成（RAG）、基于工具的推理[120], [121], [123]、代理反馈循环（ReAct [126]）、基于角色的多代理编排、记忆架构、因果建模和治理感知设计。这些面板共同为解决当前缺陷和加速安全、可扩展和上下文感知自主系统的开发提供了综合路线图。
表X：代表性AI代理（2023–2025年）：应用与操作特性
模型/参考文献 | 应用领域 | 作为AI代理的操作 |
ChatGPT深度研究模式 (OpenAI, 2025) | 研究分析/报告 | 综合数百来源生成报告，作为自主研究分析师运行 |
Operator (OpenAI, 2025) | 网络自动化 | 自主导航网站、填写表单、完成在线任务 |
Agentspace：深度研究代理 (Google, 2025) | 企业报告 | 使用Gemini模型生成商业智能报告 |
NotebookLM Plus代理 (Google, 2025) | 知识管理 | 在Google Workspace中总结、组织、检索数据 |
Nova Act (Amazon, 2025) | 工作流程自动化 | 自动化浏览器任务，如调度、人力资源请求、电子邮件 |
Manus代理 (Monica, 2025) | 个人任务自动化 | 通过浏览执行旅行规划、网站构建、产品比较 |
Harvey (Harvey AI, 2025) | 法律自动化 | 自动化文档起草、法律审查、预测性案件分析 |
Otter会议代理 (Otter.ai, 2025) | 会议管理 | 转录会议，提供亮点、摘要、行动项 |
Otter销售代理 (Otter.ai, 2025) | 销售支持 | 分析销售电话，提取洞见，建议后续行动 |
ClickUp Brain (ClickUp, 2025) | 项目管理 | 自动化任务跟踪、更新、项目工作流程 |
Agentforce (Agentforce, 2025) | 客户支持 | 路由票据，生成上下文感知回复以支持团队 |
Microsoft Copilot (Microsoft, 2024) | 办公生产力 | 在Microsoft 365中自动化写作、公式生成、摘要 |
Project Astra (Google DeepMind, 2025) | 多模态协助 | 处理文本、图像、音频、视频以支持任务和推荐 |
Claude 3.5代理 (Anthropic, 2025) | 企业协助 | 使用多模态输入进行推理、个性化、企业任务完成 |
1) AI代理的挑战与局限性
尽管AI代理因其使用LLM和工具使用接口自动化结构化任务的能力而备受关注，但文献强调了其可靠性、泛化和长期自主性受限的重大理论和实践局限性[126], [150]。这些挑战源于对静态预训练模型的架构依赖以及在因果推理、规划和健壮适应性等代理属性上的困难。AI代理的关键挑战和局限性（图12a）总结为以下五点：
a) 因果理解缺乏
最基础的挑战之一是代理无法进行因果推理[164], [165]。构成大多数AI代理认知核心的当前LLM擅长识别训练数据中的统计相关性。然而，DeepMind的近期研究和TrueTheta的概念分析指出，它们根本缺乏区分关联与因果关系的能力[166]–[168]。例如，LLM驱动的代理可能学会医院访问常与疾病共现，但无法推断疾病是否导致访问或反之，也无法模拟干预或假设变化。
这一缺陷在分布变化下尤其成问题，现实世界条件与训练环境不同[169], [170]。没有这种基础，代理保持脆弱，在新颖或高风险场景中失败。例如，在城市驾驶中表现出色的导航代理如果缺乏道路牵引力或空间遮挡的因果模型，可能在雪地或施工区域中行为失常。
b) 继承自LLM的局限性
AI代理，特别是由LLM驱动的代理，继承了影响其可靠性、适应性和整体可信度的内在局限性[171]–[173]。最突出的问题是产生幻觉——看似合理但事实上错误的输出。在法律咨询或科学研究等高风险领域，这些幻觉可能导致严重误判并侵蚀用户信任[174], [175]。LLM的提示敏感性进一步加剧了这一问题，即使提示措辞的微小变化也可能导致行为差异。这种脆弱性阻碍了可重复性，需要精心的人工提示工程和特定领域调整以保持交互一致性[176]。
此外，尽管近期代理框架采用思维链（CoT）[151], [177]和ReAct [126]等推理启发式模拟审议过程，但这些方法在语义理解上仍浅薄。代理可能在多步推理中失败，误解任务目标或得出逻辑不一致的结论，尽管表面上具有结构化推理[126]。这些缺点凸显了真正理解和可泛化规划能力的缺失。
另一个关键局限性是计算成本和延迟。代理的每次决策循环（特别是在规划或工具调用中）可能需要多次LLM调用。这不仅增加了运行时延迟，还扩展了资源消耗，在现实世界部署和云推理系统中造成实际瓶颈。此外，LLM具有静态知识截止，无法动态整合新信息，除非通过检索或工具插件明确增强。它们还重现了训练数据集的偏见，可能表现为文化不敏感或偏斜响应[178], [179]。没有严格的审计和缓解策略，这些问题在敏感或面向用户的场景中构成严重的伦理和操作风险。
c) 不完整的代理属性
当前AI代理的重大局限性是其无法完全满足基础文献中定义的典型代理属性，如自主性、主动性、反应性和社会能力[135], [173]。尽管许多标榜为“代理”的系统利用LLM执行有用任务，但在实践中往往达不到这些基本标准。例如，自主性通常最多是部分的。尽管代理在初始化后可以最少监督执行任务，但它们仍严重依赖外部支架，如人工定义的提示、规划启发式或反馈循环以有效运行[180]。自我发起任务生成、自我监控或自主错误校正很少或不存在，限制了其真正独立性的能力。
主动性同样未充分发展。大多数AI代理需要明确的用户指令才能行动，缺乏根据上下文变化或演进目标动态制定或重新优先级目标的能力[181]。因此，它们表现为反应性而非战略性，受限于其初始化的静态性质。反应性本身受架构瓶颈约束。代理确实响应环境或用户输入，但由重复LLM推理调用[182], [183]引起的响应延迟以及狭窄的上下文记忆窗口[153], [184]抑制了实时适应性。
社会能力可能是最未被探索的能力。真正的代理系统应在长期交互中与人类或其他代理通信和协调，解决模糊性、协商任务并适应社会规范。然而，现有实现表现出脆弱的基于模板的对话，缺乏长期记忆整合或细致的对话上下文。代理间交互通常是硬编码或限于脚本化交换，阻碍了协作执行和涌现行为[96], [185]。这些缺陷表明，尽管AI代理展示功能智能，但远未达到智能、交互和适应性代理的正式基准。弥合这一差距对于推进更自主、社交能力的AI系统至关重要。
d) 有限的长期规划与恢复
当前AI代理的持续局限性在于其无法执行健壮的长期规划，特别是在复杂多阶段任务中。这一约束源于其对无状态提示-响应范式的依赖，每个决策在没有先前推理步骤内在记忆的情况下做出，除非外部管理。尽管ReAct框架[126]或思维树[152]等增强引入了伪递归推理，但它们仍根本上是启发式的，缺乏时间、因果或状态演变的真正内部模型。因此，代理在需要扩展时间一致性或应急规划的任务中常失败。例如，在临床分诊或金融投资组合管理等依赖先前上下文和动态展开结果的领域，代理可能表现出重复行为，如无休止查询工具，或在子任务失败或返回模糊结果时无法适应。缺乏系统恢复机制或错误检测导致脆弱的工作流程和错误传播。这一缺陷严重限制了代理在需要可靠性、容错和顺序连贯性的关键任务环境中的部署。
e) 可靠性与安全问题
AI代理尚未足够安全或可验证，无法部署在关键基础设施中[186]。因果推理的缺失导致分布变化下的不可预测行为[165], [187]。此外，评估代理计划的正确性——特别是当代理捏造中间步骤或理由时——仍是解释性中的未解问题[104], [188]。开放式、LLM驱动的代理尚未提供安全保证，如形式验证。虽然AI代理比静态生成模型前进了一大步，但其在因果推理、适应性、健壮性和规划方面的局限性限制了其在高风险或动态环境中的部署。当前系统大多依赖启发式包装和脆弱的提示工程，而非基于基础的代理认知。弥合这一差距需要未来系统整合因果模型、动态记忆和可验证推理机制。这些局限性也为代理式AI系统的出现奠定了基础，后者通过多代理协作、编排层和持久系统级上下文尝试解决这些瓶颈。
表XI：代表性代理式AI模型（2023–2025年）：应用与操作特性
模型/参考文献 | 应用领域 | 作为代理式AI的操作 |
Auto-GPT [30] | 任务自动化 | 分解高级目标，通过工具/API执行子任务，迭代自我校正 |
GPT Engineer (Open Source, 2023) | 代码生成 | 构建完整代码库：规划、编写、测试、优化 |
MetaGPT [143] | 软件协作 | 协调专业化代理（如编码者、测试者）进行模块化多角色项目开发 |
BabyAGI (Nakajima, 2024) | 项目管理 | 持续创建、优先级排序、执行子任务以适应性满足用户目标 |
Voyager (Wang et al., 2023) [161] | 游戏探索 | 在Minecraft中学习，发明新技能，设定子目标，实时调整策略 |
CAMEL (Liu et al., 2023) [162] | 多代理模拟 | 模拟具有通信、协商、涌现协作行为的代理社会 |
Einstein Copilot (Salesforce, 2024) | 客户自动化 | 自动化完整支持工作流程，升级问题，通过反馈循环改进 |
Copilot Studio代理模式 (Microsoft, 2025) | 生产力自动化 | 在Microsoft 365中管理文档、会议、项目，具有适应性编排 |
Atera AI Copilot (Atera, 2025) | IT运营 | 诊断/解决IT问题，自动化票务，从演进基础设施中学习 |
AES安全审计代理 (AES, 2025) | 工业安全 | 自动化审计，评估合规性，演进策略以提升安全成果 |
DeepMind Gato代理模式 (Reed et al., 2022) [163] | 通用机器人 | 跨模态执行多样化任务，动态学习、规划、执行 |
GPT-4o + 插件 (OpenAI, 2024) | 企业自动化 | 管理复杂工作流程，整合外部工具，执行适应性决策 |
2) 代理式AI的挑战与局限性
代理式AI系统代表了从孤立AI代理到协作多代理生态系统的范式转变，能够分解和执行复杂目标[14]。这些系统通常由通过工具、API和共享环境交互的编排或通信代理组成[18], [38]。虽然这一架构演进支持更雄心勃勃的自动化，但它引入了放大的新挑战，复杂化了基于个体LLM代理的现有局限性。代理式AI的当前挑战和局限性如下：
a) 放大的因果挑战
代理式AI系统最关键的局限性之一是已观察到的单代理架构因果缺陷的放大。与在相对孤立环境中操作的传统AI代理不同，代理式AI系统涉及复杂的代理间动态，每个代理的行动可能影响其他代理的决策空间。没有健壮的因果关系建模能力，这些系统难以有效协调和适应意外环境变化。关键表现是代理间分布变化，一个代理的行为改变其他代理的操作上下文。在缺乏因果推理的情况下，代理无法预测其输出的下游影响，导致协调崩溃或冗余计算[189]。
此外，这些系统特别容易出现错误级联：一个代理的错误或幻觉输出可能通过系统传播，加剧不准确性并破坏后续决策。例如，如果验证代理错误验证了虚假信息，下游代理（如摘要者或决策者）可能在不知情的情况下基于该错误信息构建，危及整个系统的完整性。这种脆弱性凸显了将因果推理和干预建模整合到多代理工作流程设计中的迫切需要，特别是在需要系统健壮性的高风险或动态环境中。
b) 通信与协调瓶颈
代理式AI的基础挑战在于实现多个自主代理之间的高效通信和协调。与单代理系统不同，代理式AI涉及分布式代理，必须集体追求共享目标，这需要精确对齐、同步执行和健壮的通信协议。然而，当前实现在这方面不足。目标对齐和共享上下文是一个主要问题，代理往往缺乏对总体目标的统一语义理解。这阻碍了子任务分解、依赖管理和进展监控，特别是在需要因果意识和时间连贯性的动态环境中。
此外，协议限制显著阻碍了代理间通信。大多数系统依赖自然语言交换，基于松散定义的接口，容易出现模糊性、不一致格式和上下文漂移。这些通信差距导致策略碎片化、协调延迟和系统性能下降。此外，资源竞争在代理同时访问共享计算、记忆或API资源时成为系统瓶颈。没有集中式编排或智能调度机制，这些冲突可能导致竞争条件、执行延迟或系统完全失败。这些瓶颈表明当前代理式AI协调框架的不成熟，凸显了对标准化通信协议、语义任务规划器和全局资源管理器的迫切需求，以确保可扩展、连贯的多代理协作。
c) 涌现行为与可预测性
代理式AI最关键的局限性之一是管理涌现行为——自主代理交互产生的复杂系统级现象。虽然这种涌现可能产生适应性和创新性解决方案，但它也引入了显著的不可预测性和安全风险[145], [190]。关键问题是意外结果的生成，代理交互导致未明确编程或预见的偏差任务目标、生成误导性输出甚至在医疗、金融或关键基础设施等高风险领域执行有害行动的行为。
随着代理数量和交互复杂性的增加，系统不稳定性的可能性也增加。这包括无限规划循环、行动死锁和异步或未对齐代理决策引起的矛盾行为等现象。没有集中仲裁机制、冲突解决协议或回退策略，这些不稳定性随时间加剧，使系统脆弱且不可靠。基于大型语言模型的代理的随机性和不透明性进一步加剧了这一问题，其内部决策逻辑不易解释或验证。因此，确保涌现行为的可预测性和可控性仍是设计安全、可扩展代理式AI系统的核心挑战。
d) 可扩展性与调试复杂性
随着代理式AI系统在代理数量和专业角色多样性上的扩展，保持系统可靠性和解释性变得日益复杂[191], [192]。核心局限性源于基于LLM的代理的黑盒推理链。每个代理可能通过不透明的内部逻辑处理输入，调用外部工具并与其他代理通信，所有这些都通过多层提示工程、推理启发式和动态上下文处理发生。因此，追踪失败根本原因需要解开代理交互、工具调用和记忆更新的嵌套序列，使调试变得非琐碎且耗时。
另一个重大约束是系统的非组合性。与传统模块化系统（添加组件可增强整体功能）不同，在代理式AI架构中引入额外代理往往增加认知负荷、噪声和协调开销。编排不当的代理网络可能导致冗余计算、矛盾决策或任务性能下降。没有代理角色定义、通信标准和层次规划的健壮框架，代理式AI的可扩展性并不一定转化为更大的智能或健壮性。这些局限性凸显了对系统架构控制和可追溯性工具的需求，以支持可靠、大规模代理生态系统的开发。
e) 信任、解释性与验证
代理式AI系统由于其分布式、多代理架构，在解释性和可验证性方面面临更高挑战。虽然解释单一LLM驱动的代理行为已非琐碎，但当多个代理通过松散定义的通信协议异步交互时，这种复杂性成倍增加。每个代理可能拥有自己的记忆、任务目标和推理路径，导致复合不透明性，追踪最终决策或失败的因果链变得极为困难。缺乏共享、透明的日志或可解释推理路径使确定特定行动序列为何发生或哪个代理引发错误几乎不可能。
这一不透明性因缺乏针对代理式AI的正式验证工具而加剧。与传统软件系统（模型检查和形式证明提供有限保证）不同，目前没有广泛采用的方法来验证基于多代理LLM的系统在所有输入分布或操作上下文中是否可靠运行。这种可验证性的缺乏在自动驾驶车辆、金融和医疗等安全关键领域构成了重大采用障碍。为安全推进代理式AI，未来研究必须解决因果可追溯性、代理责任和形式安全保证的基础差距。
f) 安全与对抗性风险
与单代理系统相比，代理式AI架构显著扩展了攻击面，暴露于复杂对抗性威胁。关键漏洞之一是单一妥协点。由于代理式AI系统由通过共享记忆或消息协议通信的相互依赖代理组成，即使一个代理通过提示注入、模型毒化或对抗性工具操纵被妥协，也可能将恶意输出或损坏状态传播到整个系统。例如，受损数据的验证代理可能无意中合法化虚假声明，随后被摘要或决策代理整合到下游推理中。
此外，代理间动态本身易受利用。攻击者可能通过操纵代理间的协调逻辑诱导竞争条件、死锁或资源耗尽。没有严格的身份验证、访问控制和沙箱机制，恶意代理或损坏的工具响应可能使多代理工作流程脱轨或导致任务管道中的错误升级。这些风险因缺乏基于LLM的多代理系统的标准化安全框架而加剧，使当前大多数实现对复杂多阶段攻击无防御能力。随着代理式AI向更广泛采用推进，特别是在高风险环境中，嵌入安全设计原则和对抗性健壮性成为迫切的研究需求。
g) 伦理与治理挑战
代理式AI系统的分布式和自主性质引入了深刻的伦理和治理问题，特别是在责任、公平性和价值对齐方面。在多代理环境中，当多个代理交互产生结果时，责任差距出现，难以分配错误或意外后果的责任。这种模糊性复杂化了法律责任、监管合规和用户信任，特别是在医疗、金融或国防等领域。此外，偏见传播和放大提出了独特挑战：基于偏见数据单独训练的代理可能通过交互相互强化偏见决策，导致比孤立模型更显著的系统性不平等。这些涌现偏见可能微妙且难以检测，没有纵向监控或审计机制。
此外，未对齐和价值漂移在长期或动态环境中构成严重风险。没有统一的共享价值编码框架，个体代理可能以不同方式解释总体目标或优化与人类意图背离的局部目标。随着时间推移，这种未对齐可能导致与伦理规范或用户期望不一致的行为。当前对齐方法主要为单代理系统设计，难以管理异构代理集体的价值同步。这些挑战凸显了对治理感知代理架构的迫切需求，整合角色隔离、可追溯决策日志和参与式监督机制等原则，以确保自主多代理系统的伦理完整性。
h) 不成熟的基础与研究差距
尽管取得了快速进展和高调展示，代理式AI仍处于早期研究阶段，存在限制其可扩展性、可靠性和理论基础的未解决基础问题。核心问题是缺乏标准架构。目前没有广泛接受的蓝图来设计、监控或评估基于LLM的多代理系统。这种架构碎片化使比较实现、复制实验或跨领域泛化发现变得困难。代理编排、记忆结构和通信协议等关键方面常以临时方式实现，导致脆弱的系统缺乏互操作性和形式保证。
同样关键的是因果基础的缺失，可扩展因果发现和推理仍是未解挑战[193]。没有表示和推理因果关系的能力，代理式AI系统在超越狭窄训练环境的泛化安全性上固有局限[170], [194]。这一缺陷影响其在分布变化下的健壮性、主动干预能力以及模拟反事实或假设计划的能力——智能协调和决策的核心要求。
功能演示与原则性设计之间的差距凸显了对多代理系统理论、因果推理整合和基准开发的基础研究的迫切需求。只有解决这些不足，领域才能从原型管道发展到适用于高风险环境的值得信赖、通用代理框架。
潜在解决方案与未来路线图
为应对AI代理和代理式AI的挑战与局限性，图13中提出的潜在解决方案总结如下：
1) 检索增强生成（RAG）
对于AI代理，检索增强生成（Retrieval-Augmented Generation, RAG）通过将输出锚定于实时数据，有效缓解幻觉问题并扩展静态大型语言模型（LLM）的知识范围[195]。通过嵌入用户查询并从FAISS或Pinecone等矢量数据库中检索语义相关的文档，代理能够生成基于外部事实的上下文有效响应。这一方法在企业搜索和客户支持等领域尤为有效，因为这些领域要求高准确性和最新知识。
在代理式AI系统中，RAG作为跨代理的共享事实基础机制。例如，摘要代理可能依赖检索代理获取最新科学论文，然后生成综合性输出。持久性、可查询的记忆机制使分布式代理能够基于统一的语义层操作，减少因上下文视图差异导致的不一致性。在多代理系统中实施RAG有助于维护共享真相，提升目标对齐，并减少代理间错误信息的传播。
2) 工具增强推理（函数调用）
AI代理通过函数调用显著扩展了与现实世界系统的交互能力[159], [196]。代理能够查询API、运行本地脚本或访问结构化数据库，从而将LLM从静态预测器转变为交互式问题解决者[125], [154]。这使代理能够动态检索天气预报、安排预约或执行基于Python的计算，这些功能超出了纯语言建模的能力。
在代理式AI中，函数调用支持代理级自主性和角色区分。团队中的代理可能根据分配角色使用API调用特定领域行动，例如查询临床数据库或生成可视化图表。函数调用成为编排管道的一部分，支持代理间流畅的任务委托[197]。这种结构化交互减少了任务交接中的模糊性，并通过与验证协议或观察机制的整合，促进更清晰的行为边界[14], [18]。
3) 代理循环：推理、行动、观察
AI代理常受限于单次推理的局限性。ReAct模式通过引入迭代循环缓解了这一问题，代理在任务中进行推理、通过调用工具或API采取行动，然后观察结果后再继续[126]。这种反馈循环支持更深思熟虑、上下文敏感的行为。例如，代理可能在起草摘要前验证检索数据，从而减少幻觉和逻辑错误。
在代理式AI中，ReAct模式对协作一致性至关重要。它使代理能够动态评估依赖关系，推理中间状态，必要时重新调用工具，并在环境演变时调整决策。在多代理场景中，这一循环变得更复杂，每个代理的观察需与其他代理的输出协调一致。共享记忆和一致性日志记录在此至关重要，确保系统的反思能力不会因代理间的碎片化而受损。
4) 记忆架构（情景、语义、矢量）
AI代理在长期规划和会话连续性方面面临局限性。记忆架构通过跨任务持久化信息解决了这一问题[198]。情景记忆（episodic memory）使代理能够回忆先前行动和反馈，语义记忆（semantic memory）编码结构化领域知识，矢量记忆（vector memory）支持基于相似性的检索[199]。这些元素对个性化交互和适应性决策至关重要。
代理式AI系统因其分布式状态管理需要更复杂的记忆模型。每个代理可能维护本地记忆，同时访问共享全局记忆以促进协调。例如，规划代理可能使用矢量记忆回忆先前工作流程，而问答代理引用语义记忆进行事实验证。同步记忆访问和更新增强了一致性，支持上下文感知通信，并促进系统级长期规划。
5) 基于角色专一化的多代理编排
在AI代理中，任务复杂性通常通过模块化提示模板或条件逻辑处理。然而，随着任务多样性的增加，单一代理可能不堪重负[200], [201]。角色专一化通过将任务拆分为子组件（如规划者、摘要者）实现轻量级编排，即使在单代理系统中也能模拟分区推理。
在代理式AI中，编排是核心机制。元代理或编排器在专业化代理间分配任务，每个代理具有独特能力。MetaGPT和ChatDev等系统体现了这一方法：代理模拟CEO、工程师或审查者等角色，通过结构化消息交互[143], [142]。这种模块化方法增强了可解释性、可扩展性和故障隔离，确保一个代理的失败不会在无遏制机制的情况下级联。
6) 反思与自我批评机制
AI代理常在无声中失败或传播错误。反思机制通过引入自我评估能力解决了这一问题[202], [203]。在完成任务后，代理可通过二次推理过程批评自身输出，增强健壮性并减少错误率。例如，法律助理代理可能在提交前验证其起草条款是否符合先前判例法。
在代理式AI中，反思能力扩展到代理间评估。代理可以审查彼此的输出，例如验证代理审计摘要代理的工作。类似Reflexion的机制确保协作质量控制并增强可信度[204]。这些模式还支持迭代改进和适应性重新规划，特别是与记忆日志或反馈队列整合时[205], [206]。
7) 程序化提示工程管道
手动提示调整引入了脆弱性并降低了AI代理的可重复性。程序化提示管道通过使用任务模板、上下文填充和检索增强变量自动化这一过程[207], [208]。这些动态提示根据任务类型、代理角色或用户查询结构化，改善泛化能力并减少与提示变异性相关的失败模式。
在代理式AI中，提示管道支持可扩展、角色一致的通信。每种代理类型（如规划者、检索者、摘要者）可生成或消费为其功能定制的结构化提示。通过自动化消息格式化、依赖跟踪和语义对齐，程序化提示防止协调漂移，并确保在实时中跨多样化代理的一致推理[14], [159]。
8) 因果建模与基于模拟的规划
AI代理常基于统计相关性而非因果模型操作，导致分布变化下的泛化能力较差。嵌入因果推理使代理能够区分相关性和因果关系，模拟干预并更健壮地规划。例如，在供应链场景中，因果感知代理可模拟发货延迟的下游影响。
在代理式AI中，因果推理对安全协调和错误恢复至关重要。代理必须预测其行动如何影响其他代理，这需要因果图、模拟环境或贝叶斯推理层。例如，规划代理可能模拟不同策略并向其他代理传达可能结果，促进战略对齐并避免意外涌现行为。
9) 监控、审计与解释性管道
AI代理缺乏透明度，复杂化了调试和信任。记录提示、工具调用、记忆更新和输出的日志系统支持事后分析和性能优化。这些记录帮助开发者追踪故障、优化行为并确保符合使用指南，特别是在企业或法律领域至关重要。
对于代理式AI，日志记录和解释性更为重要。由于多个代理异步交互，审计跟踪对于识别哪个代理引发错误及在何种条件下至关重要。跨代理整合的解释性管道（如时间线可视化或对话回放）对确保安全性至关重要，特别是在监管或多利益相关方环境中。
10) 治理感知架构（责任与角色隔离）
AI代理目前缺乏内置的伦理合规或错误归因保障。治理感知设计引入基于角色的访问控制、沙箱和身份解析，确保代理在范围内行动，其决策可被审计或撤销。这些结构降低了医疗或金融等敏感应用中的风险。
在代理式AI中，治理需跨角色、代理和工作流程扩展。角色隔离防止流氓代理超越权限，而责任机制为决策分配责任并跨代理追踪因果关系。合规协议、伦理对齐检查和代理身份验证确保协作环境中的安全性，为可信AI生态系统铺平道路。
未来发展路线
AI代理预计将通过增强模块化智能显著演进，聚焦于五个关键领域，如图14所示：主动推理、工具集成、因果推理、持续学习和以信任为中心的功能。首个转型里程碑是从反应性向主动智能过渡，代理基于学习模式、上下文线索或潜在目标发起任务，而非等待明确提示。这一进步高度依赖健壮的工具集成，使代理能够动态与数据库、API或模拟环境交互以完成复杂用户任务。同样关键的是因果推理的发展，使代理超越统计相关性，支持诊断、规划或预测任务中的因果关系推理。为保持长期相关性，代理必须采用持续学习框架，整合反馈循环和情景记忆以跨会话和环境适应行为。最后，为建立用户信心，代理必须优先考虑信任与安全机制，通过可验证输出日志、偏见检测和伦理护栏实现，尤其是在自主性增加时。这些路径将重新定义AI代理，从静态工具转变为能够在动态数字环境中自主但可控操作的适应性认知系统。
图14：AI代理和代理式AI未来路线图的思维导图可视化。
代理式AI作为这些基础的自然延伸，强调通过多代理协调、上下文持久性和特定领域编排实现协作智能。未来系统（图14右侧）将展现多代理扩展，使专业化代理在分布式控制下并行工作，解决复杂问题，类似基于团队的人类工作流程。这需要统一编排层，元代理或编排器动态分配角色、监控任务依赖并调解子代理间的冲突。持久性记忆架构对于长期性能至关重要，保留语义、情景和共享知识，使代理协调纵向任务并保持状态感知。模拟规划预计将成为核心功能，使代理集体在现实执行前测试假设策略、预测后果并优化结果。此外，伦理治理框架对于确保负责任部署至关重要，定义自主代理网络中的责任、监督和价值对齐。最后，法律、医疗和供应链等领域的特定领域系统将涌现，利用上下文专一性超越通用代理。这一未来将代理式AI定位为不仅仅是AI代理之上的协调层，而是具有适应性规划、递归推理和协作认知为核心的集体机器智能新范式。
结论
在本研究中，我们基于文献全面评估了AI代理和代理式AI的演进格局，提出了结构化的分类，突出了基础概念、架构演进、应用领域和关键局限性。首先，我们通过基础理解，将AI代理描述为模块化、特定任务的实体，具有受限自主性和反应性。其操作范围基于大型语言模型（LLM）和大型图像模型（LIM）的整合，作为感知、语言理解和决策的核心推理模块。我们将生成式AI定位为功能前驱，强调其在自主性和目标持久性方面的局限性，并探讨了LLM如何通过工具增强推动从被动生成到交互任务完成的进步。
随后，本文探讨了代理式AI系统作为从孤立代理到编排多代理生态系统的转型性演进的概念出现。我们分析了分布式认知、持久性记忆和协调规划等关键区别，将代理式AI与传统代理模型区分开来。接着，通过详细分解架构演进，突出了从单体、基于规则的框架向模块化、角色专一化网络的过渡，辅以编排层和反思性记忆架构。此外，本文调研了这些范式的部署应用领域。对于AI代理，我们展示了其在客户支持自动化、内部企业搜索、电子邮件优先级排序和调度中的作用。对于代理式AI，我们展示了协作研究、机器人、医疗决策支持和适应性工作流程自动化等用例，辅以实际示例和行业级系统。最后，本文深入分析了影响两种范式的挑战和局限性。对于AI代理，我们讨论了幻觉、浅层推理和规划约束；对于代理式AI，我们探讨了放大的因果问题、协调瓶颈、涌现行为和治理问题。这些洞见为未来开发和部署可信、可扩展的代理系统提供了路线图。
关键术语表
1. 核心概念与范式
英文术语 | 中文翻译 | 定义 |
AI Agents | 人工智能代理（AI代理） | 自主执行特定任务的软件实体。 |
Agentic AI | 代理式人工智能（代理式AI） | 多代理协作实现复杂目标系统。 |
Generative AI | 生成式人工智能（生成式AI） | 根据提示生成内容的AI系统。 |
Generative Agents | 生成式代理 | 生成内容并执行任务的代理。 |
Multi-Agent System (MAS) | 多代理系统（MAS） | 多个代理协同工作的架构。 |
2. 模型与技术
英文术语 | 中文翻译 | 定义 |
Large Language Model (LLM) | 大型语言模型（LLM） | 处理自然语言的预训练模型。 |
Large Image Model (LIM) | 大型图像模型（LIM） | 处理视觉数据的预训练模型。 |
Vision-Language Model (VLM) | 视觉-语言模型（VLM） | 融合视觉和语言的模型。 |
Retrieval-Augmented Generation (RAG) | 检索增强生成（RAG） | 结合检索生成准确内容的机制。 |
Chain-of-Thought Prompting | 思维链提示 | 引导LLM逐步推理的提示技术。 |
Tree of Thoughts | 思维树 | 多路径推理的提示框架。 |
ReAct | ReAct循环 | 推理-行动-观察的迭代循环。 |
Function Calling | 函数调用 | 代理调用外部工具的接口。 |
Tool-Augmented LLM Agents | 工具增强LLM代理 | 结合工具扩展功能的LLM代理。 |
Supervised Fine-Tuning (SFT) | 监督微调（SFT） | 用标注数据优化模型性能。 |
Reinforcement Learning from Human Feedback (RLHF) | 人类反馈强化学习（RLHF） | 用人类反馈改进模型行为。 |
3. 架构与组件
英文术语 | 中文翻译 | 定义 |
Orchestration | 编排 | 协调多代理任务分配与执行。 |
Meta-Agent | 元代理 | 管理子代理的协调代理。 |
Persistent Memory | 持久性记忆 | 跨任务存储信息的记忆系统。 |
Episodic Memory | 情景记忆 | 存储任务特定历史的记忆。 |
Semantic Memory | 语义记忆 | 编码结构化领域知识的记忆。 |
Vector Memory | 矢量记忆 | 支持相似性检索的记忆结构。 |
Knowledge Representation and Reasoning (KRR) | 知识表示与推理（KRR） | 表示和推理知识的模块。 |
Programmatic Prompt Engineering | 程序化提示工程 | 自动化生成结构化提示的管道。 |
4. 代理属性与行为
英文术语 | 中文翻译 | 定义 |
Autonomy | 自主性 | 独立执行任务的能力。 |
Task-Specificity | 任务特异性 | 优化特定任务的设计理念。 |
Reactivity | 反应性 | 响应环境变化的能力。 |
Adaptability | 适应性 | 动态调整行为的机制。 |
Proactivity | 主动性 | 自主发起任务的能力。 |
Social Ability | 社会能力 | 与人或其他代理协作的能力。 |
Goal Decomposition | 目标分解 | 将目标拆分为子任务的过程。 |
Emergent Behavior | 涌现行为 | 代理交互产生的意外系统行为。 |
Proactive Intelligence | 主动智能 | 基于上下文主动决策的能力。 |
Continuous Learning | 持续学习 | 跨会话适应和优化的能力。 |
5. 挑战与局限性
英文术语 | 中文翻译 | 定义 |
Hallucination | 幻觉问题 | 生成虚假但看似合理输出。 |
Prompt Sensitivity | 提示敏感性 | 提示变化导致输出不一致。 |
Distributional Shift | 分布变化 | 环境与训练数据分布不一致。 |
Error Cascade | 错误级联 | 错误在系统中传播放大。 |
Resource Contention | 资源竞争 | 多代理争用共享资源导致冲突。 |
Explainability | 解释性 | 决策过程透明可理解的能力。 |
Formal Verification | 形式验证 | 数学证明系统行为的正确性。 |
Adversarial Robustness | 对抗性健壮性 | 抵御恶意攻击的能力。 |
Value Alignment | 价值对齐 | 系统行为符合人类意图。 |
6. 解决方案与未来方向
英文术语 | 中文翻译 | 定义 |
Causal Modeling | 因果建模 | 推理因果关系的模型。 |
Reflexive Mechanism | 反思机制 | 代理自我评估输出以改进。 |
Governance-Aware Architecture | 治理感知架构 | 内置伦理与责任的系统设计。 |
Trust & Safety | 信任与安全 | 确保系统可信与安全的机制。 |
Multi-Agent Scaling | 多代理扩展 | 增加代理以处理复杂任务。 |
Simulation Planning | 模拟规划 | 测试策略以优化执行结果。 |
Domain-Specific System | 特定领域系统 | 针对特定领域优化的AI系统。 |
7. 应用与领域
英文术语 | 中文翻译 | 定义 |
Customer Support Automation | 客户支持自动化 | 自动处理客户查询与票据。 |
Internal Enterprise Search | 内部企业搜索 | 检索企业内部文档的代理。 |
Email Filtering and Prioritization | 电子邮件过滤与优先级排序 | 自动分类和排序电子邮件。 |
Personalized Content Recommendation | 个性化内容推荐 | 根据行为推荐个性化内容。 |
Autonomous Scheduling Assistant | 自主调度助手 | 自动协调会议与日程。 |
Multi-Agent Research Assistant | 多代理研究助手 | 协作完成研究任务的代理系统。 |
Intelligent Robotics Coordination | 智能机器人协调 | 多机器人协作执行任务。 |
Collaborative Medical Decision Support | 协作医疗决策支持 | 多代理辅助医疗决策。 |
Multi-Agent Game AI | 多代理游戏AI | 协作生成游戏内智能行为。 |
Adaptive Workflow Automation | 适应性工作流程自动化 | 动态管理复杂任务流程。 |
Electronic Health Record (EHR) | 电子健康记录（EHR） | 存储患者医疗数据的系统。 |
本文转载自Andy730，作者：常华
赞
收藏
回复
相关推荐
