AI.x社区

最近在做数据分析时发现一个问题，那就是智能体的能力确实很有限，智能体也没有想象中的那么强大。以数据分析为例，之前在做数据分析时需要DBA根据业务需求对任务进行拆解；然后编写SQL或其它分析语句，最后统计出结果。而现在由于大模型的出现，因此想利用大模型的能力去做数据分析，但理想很丰满，现实很骨感。以我们平常开发为例，不论是系统架构还是表结构，都会随着业务的变迁或设计的缺陷进行不断的调整和完善；因此，有...

“总之，智能体开发的理论很简单；但其真正的难点却在具体的落地实现。”智能体开发是目前大模型应用的主流方向之一，但由于大模型的不稳定性导致智能体开发困难重重，特别是构建能够稳定运行的智能体，更是难上加难。今天我们就从智能体开发过程中遇到的问题出发，尝试找到企业级的智能体架构方案。企业级智能体架构事实上智能体的概念很简单——就是LLM(大模型)+Prompt(提示词)+Tools(工具)；但在实际操作中，智能体开发却有...

“RAG技术成本最低的方式就是把非结构化文档转换成markdown格式进行处理。”在大模型应用领域中——RAG技术应该属于一项基础技术，不论做什么业务基本都离不开RAG的存在；但RAG技术属于典型的入门五分钟，想做好却需要花费大量时间和精力，以及成本。所以，今天我们就来讨论一下RAG技术在企业应用中的解决方案，既要考虑技术问题，也要考虑成本问题。怎么做好RAGRAG技术从整体上来说主要分为两块，一块是文档预处理，也就是把文...

“网络协议的本质是一种有固定格式的规则约束。”最近在研究MCP协议，由于之前深入了解过网络协议这一块，比如说TCPIP，HTTP等，所以对MCP协议就比较好奇，于是就深入了解了一下。刚开始了解MCP协议的时候就很奇怪一件事情，不管是TCPIP协议，还是HTTP协议，都会有一个固定的报文格式；但在MCP的官方文档中并没有看到这个报文格式。只是简单介绍了其几个核心组件——hosts，client和server等。所以就很好奇，MCP协议没有一个固...

“MCP协议是智能体开发中的一项标准协议，目前市面上智能体的主流开发协议就是它。”在智能体领域工具是一个很重要的组件，大模型通过工具调用才能与外界环境交互并完成任务。而为了统一工具调用的方式，就有了MCP协议的出现，它的目的是统一工具调用的方式，不同模型厂商和工具厂商可以按照统一的标准实现，然后不同模型和工具之间可以无缝切换。协议的本质就是标准。FastMCP开发框架下面我们以FastMCP框架为基础来介绍MCP协议...

“智能体虽然功能很强大，但在企业环境中稳定性比功能更重要。”标智能体在企业应用中的稳定性问题智能体在企业环境中稳定性问题的本质智能体（LLMAgentAIAgent）在企业环境下常出现：输出不稳定：同样输入结果波动大，容易出现幻觉（Hallucination）。长任务中断：因超时、内存泄漏、上下文溢出等中断执行。上下文依赖问题：多轮任务难以保持状态和上下文一致性。与外部系统集成不稳定：调用数据库、知识库、API时失败重试策略...

“智能体和工作流是大模型应用的一体两面，其两者既有区别也有联系，更多的是相辅相成。”Agent智能体和workflow工作流是人工智能领域非常重要的两个概念，很多人弄不清楚智能体和工作流的区别，甚至会认为它们是一回事。所以，今天我们就来讨论一下智能体和工作流的区别与联系。智能体与工作流Agent——智能体Agent智能体是大模型应用场景中一个非常重要的方向，也有很多人认为其是通向AGI——通用人工智能的必经之路；智能体...

“智能体中，大模型就是人，工具就是人使用的工具，提示词就是你想让大模型做什么，以及怎么做。”智能体作为AI领域潜力无限的一个应用方向，很多技术从业者都扑在了智能体上，同时也有更多的人想入行智能体开发；但面对智能体领域各种乱七八糟的新概念，新名词很多人都不知道该从哪下手，以及怎么下手。特别是智能体是结合大模型LLM+Prompt+Tools组成的一个复合概念；最重要的是很多人刚开始很难弄明白大模型都是干啥的，以及...

“不同的模型可能具有完全不同的风格表现，而不同的风格适合不同的应用场景。”在之前的文章中说过，要把大模型当做一个人；不同的模型就是具备不同能力的人，有“人”擅长写作，有“人”擅长绘画，还有人擅长逻辑推理。而在最近使用chatGPT和DeepSeek的过程中发现，两个模型在相同的领域内拥有完全不同的表现；DeepSeek就像一台严密的机器，擅长处理复杂的任务；而chatGPT更像一个有感情的人，更擅长人类情感方面的处理，比如...

“智能体的核心是LLM，方法是Prompt，重要组件是Tools。”开发智能体有一个核心原则——那就是智能体的核心是大模型，不论多么复杂的智能体都是基于这个原则开发的。为什么这么说？原因就在于很多人没有理解这句话，简单来说就没搞明白大模型的运行流程是什么样的；而且面对市面上各种开发框架和开源项目，都把智能体的核心操作封装起来了，而对于我们很多开发者来说，这些智能体的运行过程就是一个黑盒，也不懂得其中的原理。...

“ReAct思考和行动，既是一种方法论，也是一种范式，更是一种提示词模板，还是一种Agent智能体的开发方式。”目前基于大模型构建上层应用，其中很大的一个问题就是大模型的能力不足，特别是在复杂场景下的逻辑思维能力，明显存在严重的缺陷；而且由于安全性问题，大模型整体运行过程是一个黑盒模型，我们并不知道其内部到底是怎么运作的。因此，这时就需要一种方式让大模型给出具体的思考和行动过程，一是为了弄明白大模型是怎...

“大模型只是一种可插拔组件，提示词才是核心。”关于提示词的重要性应该没什么好说的了，可以说现在所有的基于大模型构建的应用都是以提示词作为核心切入点；不管是RAG还是智能体，无外如是。对从事大模型应用的开发者来说，重要的不是大模型的部署和运维，其核心是怎么写好提示词；以目前市面上的开发框架或开源项目来看，大模型都是一个可插拔的组件，只要配置好模型参数，在业务场景中可以随意切换不同的模型。模型只是可插...

“智能体开发在稳定性和灵活性之间必须做出一个选择。”在前面几篇文章中介绍了人工智能应用中大模型所扮演的角色，以及提示词在其中的重要性和作用；但在之前的文章也介绍过智能体，工作流之间的关系，我们今天讨论的就是智能体实现过程中，怎么兼顾灵活性和稳定性，以及为什么会有工作流的存在。智能体的灵活性和稳定性关于智能体的实现或者说关于大模型应用的开发，其核心都是围绕大模型所展开；但大模型有一个很大的问题就...

“所有对大模型的操作都是通过提示词实现的，而其它所有功能都是基于此二者之上。”大模型从训练完成之后其能力范围基本上就已经确定了，除非对模型进行重新训练或微调；但怎么用好大模型，激发大模型的潜力，那就要靠提示词来解决。大模型虽然功能强大，但其操作入口只有一个，那就是提示词，不论是RAG，AIGC，还是智能体都是通过提示词和大模型进行交互。而大模型对提示词进行分析理解用户需求，然后再根据需求进行下一步操作...

“寻找大模型的应用场景，就是把大模型带入人的角色；人在不同场景中扮演什么角色，就可以尝试让大模型去扮演这个角色。”最近一直在做大模型应用方面的开发，从刚开始的迷茫和无措到现在对大模型有了一定的了解。因此，这时才发现自己陷入了一个很大的误区，那就是对大模型认识不够深刻，甚至很多时候不知道大模型是个什么东西。但经过这段时间的摸索之后才发现，我们应该把大模型当做一个人，而不是把大模型当做一个神。大模...

“人工智能做数据分析的原理是生成相对应的分析语句或代码，而不是直接让大模型对数据进行处理。”最近在研究基于人工智能进行数据分析，主要研究了基于langchain集成Pandas的数据分析智能体；以及数据分析开源项目Vanna，一个基于大模型做数据分析的框架。而在对比两者实现原理的过程中就发现了一个问题，基于SQL做数据分析和基于Pandas做数据分析的区别以及优劣势是什么。基于人工智能的数据分析在传统的数据分析过程中主要采...

“智能体的运作流程非常复杂和不可控，因此需要其它解决方案来解决这些问题。”从结构上来看智能体的实现非常简单，就是大模型LLM+工具Tools；而构建工具主要有两种方式，Functioncall和MCP协议。但由于智能体是由大模型自己决定怎么使用工具，以及怎么处理工具需要的参数和返回值。而这个过程对技术人员是完全不可控的，因此这一点也是智能体执行过程中主要的困难点和风险点；特别是在多链路的工具调用过程中，比如说让模型找...

“想赚钱你不一定需要很厉害的技术，关键是你能解决大部分人的问题。”很多人说程序员有一个很大的特征就是其思维方式，由于经常要处理逻辑问题因此其逻辑思维能力很强；但其它方式的思维能力又很弱，而且作为程序员又有很强的技术鄙视链。而我们今天要说的就是改变我们程序员的思维方式，用技术去解决问题，而不是单纯的去学习技术；一个问题有很多种解决方案，而你会的技术可能只是其中之一，而且还不一定是最好的。改变你的...

​“Vanna的核心思想是由大模型替代DBA人员编写SQL，能够直接根据自然语言进行数据分析。”在大模型应用中有一种技术叫做NL2SQL——自然语言生成SQL语句；在基于人工智能的数据分析场景中，数据库是必不可少的一个环节。但怎么处理数据库中的数据却有不同的思路，比如类似于传统数据分析，使用SQL读取数据库，然后交给大模型进行分析；第二，使用pandas这种数据分析工具，让大模型调用pandas的函数执行获取结果；因为存在即合理...

“智能体开发过程中存在很多问题，但由于其执行过程是个黑盒，因此其调试存在更多的困难。”最近一段时间一直在搞智能体方面的开发，主要方向是数据分析智能体；采用的框架是langchain家族的Langgraph框架；原因就在于Langgraph有很强的定制功能。但是，在实际开发的过程中却一步一步坎，面临着各种各样的问题；比如说数据分析结果不准确，找不到数据或文件，在多链路的过程中，智能体只能处理一般的需求，另一半需求被忽视。但...