AI.x社区

“RAG技术未来并不会被淘汰，只不过会随着技术的迭代而不断升级。”关于RAG技术有很多不同的观点，有人认为RAG技术是大模型的阶段性解决方案，最终会被淘汰；但也有人认为RAG技术仍不能被替代，其作用依然无可代替；而还有观点认为RAG技术会随着大模型技术的迭代进行升级，更多的是会形成协同发展。而从企业的角度来说，由于RAG技术未来的不确定性，因此有些人对RAG还存在各种各样的顾虑问题。所以，我们今天就来讨论一下关于RA...

“大模型虽然看起来很复杂，但我们只要具备工具思想，那么就可以轻松地玩转大模型。”在对大模型的了解和应用过程中发现一个问题，就是很多人对大模型抱着神秘和高大上的想法；认为搞大模型的都是技术大拿或者高学历的精英人才，甚至有些人会认为大模型无所不能。但事实上，大模型没有大家想象中的那么神秘和复杂；大模型也有自己的能力边界，它也无法做到超出它能力范围的事；而且现在大模型也存在各种各样的问题，否则大模型...

“不同的向量类型可能会得到不同的检索结果，因此需要根据不同的场景选择合适的检索策略”相似度检索是目前人工智能领域一个非常重要的应用场景，其不仅仅应用于人工智能技术，同样应用于搜索技术；比如搜索引擎，电商搜索等多种技术领域。因此，向量数据库也成为现在技术领域不可缺少的一个中间件；虽然说向量检索主要就是进行向量计算，不管是余弦，还是欧式距离等算法，目的都是通过计算向量之间的位置关系来确定相似度。但...

“文档处理是人工智能应用领域中的重要环节，其业务需求复杂，技术实现难度高；因此，怎么处理复杂文档是每个技术人员都需要考虑的问题。”文档处理在当前人工智能行业下是一个非常基础也非常重要的工作，不论是模型的训练和微调，还是以RAG检索增强，亦或者是在传统的搜索引擎(包括百度，谷歌这种搜索引擎；以及电商等内部平台的搜索需求)中都是必不可少的一个重要环节。但面对复杂的文档格式和类型，文档处理的难度相当大；而...

“大模型应用的很多功能包括记忆管理，需要的不仅仅只是技术问题，还需要足够的工程化能力才能解决。”众所周知，大模型是没有记忆功能的，因此记忆管理就成为大模型应用过程中必不可少的一个环节；虽然说记忆管理说起来很简单，但在实际操作中还是存在很多问题。比如说，随着记忆的增加token成本的上升，大模型窗口的限制，记忆的存储问题等等。因此，今天就从项目的实际操作中来详细了解一下大模型的记忆功能；开发框架是基于...

“知识蒸馏技术是模型轻量化小型化的一种方式，其效果也远超我们的想象”在深度学习领域模型的压缩与部署是一项非常重要的研究课题，原因就在于模型巨大的成本和算力需求；因此，怎么把模型小型化就成为一个亟待解决的问题。因此，一项技术就被应用于模型小型化的过程，这个技术就叫做知识蒸馏，而我们平常说的比较多的是大模型蒸馏技术。当然，知识蒸馏技术并不是一项新技术，其在2015年就已经被诺贝尔奖获得者——Hinton等人...

“影响大模型能力的因素有很多，但我们需要具体问题具体分析，不能希望一个技术解决所有问题。”在人工智能应用场景中，可以说大模型扮演着至关重要的角色，因为大模型是人工智能应用的基座；因此这里就涉及到一个很重要的概念——大模型的能力。即大模型的能力范围有多大，也就是大模型的能力圈；所以，这里就提出一个问题，大模型的能力是由哪些因素决定的？也可以说怎么提升大模型的能力？而提示词能提升大模型的能力吗？大...

“Embedding和Rerank模型是RAG系统中的核心模型。”在RAG系统中，有两个非常重要的模型一个是Embedding模型，另一个则是Rerank模型；这两个模型在RAG中扮演着重要角色。Embedding模型的作用是把数据向量化，通过降维的方式，使得可以通过欧式距离，余弦函数等计算向量之间的相似度，以此来进行相似度检索。而Rerank的作用是在Embedding检索的基础之上，进行更加准确的数据筛选；如果说Embedding模型进行的是一维筛选，那么Reran...

“提示词工程是大模型应用的核心，大模型的能力是有限的，但提示词是挖掘大模型能力的钥匙。”人工智能技术是目前技术圈中比较火的技术，但很多人对人工智能技术还没有一个清楚的认识；有些人把人工智能技术想的太复杂，而有些人把人工智能技术想的太简单。还有很多人传统的技术开发者，甚至会认为人工智能技术是一项全新的领域，之前的开发经验和技术都没有了用武之地。但不得不说这是一种错误的思想，因此我们今天就来讨论一...

“数据召回是RAG技术的重要领域，而不同的召回策略甚至会产生完全不同的效果。”RAG技术的核心原理很简单，本质上就是在外部维护一个资料库，在进行大模型问答之前，先从资料库中找到相关的内容，然后一起输入到大模型中。但由于文档的复杂性，在进行文档处理时很难真正做到高质量的数据处理；因此，在做数据召回时就会面临着各种各样的问题。所以，怎么进行高质量的数据召回，就成为RAG必须要研究的一个课题；而今天，我们就来...

“构建一个合格好用的智能客服是很多中小企业急需的市场需求。”客服系统在现代商业体系中扮演着重要的角色，不论任何领域任何行业都离不开客服的存在；虽然客服系统经过多年的实践与发展，但依然存在各种各样的问题。而随着互联网技术的发展，特别是目前基于自然语言处理的大模型技术的发展，为客服系统提供了新的解决方案；其主要优势就在于基于大模型的智能客服系统能够快速响应，快速回复，能够做到724小时不间断待命状态，...

“工作流与RAG是大模型应用领域阶段性的产物。”工作流是对工作流程及其各操作步骤之间业务规则的抽象和概括描述。它可以帮助组织和自动化重复性任务，提高工作效率。智能体作为人工智能应用的一个主要技术形式，其重要性不言而喻；但同样智能体也并不是万能的，因此怎么更好的使用智能体，并串联相关技术环节就成为一个需要解决的问题。而这就是工作流需要解决的问题，通过制定标准的执行流程，在不同节点使用不同的工具(智能...

“提示词是大模型与外界交互的唯一通道，因此提示词的重要性远比我们想象中的要重要。”提示词或者说提示词工程，说起来可能大家多多少少都知道是怎么回事；但可能很多人并没有意识到提示词工程对大模型的重要性。提示词是人与大模型沟通的桥梁，就像我们要想使用电脑就离不开鼠标键盘一样；不管你是做AIGC也好，做RAG、Agent也罢，或者其它任何与大模型相关的技术或应用，都离不开提示词的存在。总之一句话，任何关于大模型的...

“敢于尝试是一个好的开始，中间可能会存在各种各样的问题和困难，但只要用心思考，一定能找到合适的解决方案。”从事人工智能领域方面的技术开发与应用已经差不多有两年左右的时间了，作者也从一个对人工智能什么都不懂的小白勉强进阶成为对人工智能行业有了初步了解的初级开发人员。因此，从今天开始作者希望从一个纯粹的技术人员，向一个能够提供完整行业解决方案的项目人员的转变；简单来说，就是想从事人工智能方面的创业...

“智能体是大模型应用的未来，而协议却是决定大模型应用的行业标准。”2024年是大模型应用探索的元年，而随着大家对大模型应用的探索，大模型被应用到越来越多的场景；但同时也面临着各种各样的问题。特别是在智能体方面的应用探索，面临着各种各样的问题；而其中目前最头疼的无非就是各家大模型公司没有统一的标准，关于智能体的技术实现也各式各样；而这直接阻挡了大模型应用方面的进展。而解决这个问题最好的办法是什么？那...

“复杂文档的处理是人工智能应用的基础，但同时也是一个门槛。”在这里先思考一个问题，哪种文档格式最复杂？以我们经常使用的文档为例，不同系统下有不同格式的文档；不论是文本，图片，还是视频都有很多种格式；但要说比较复杂的还是文本类文档。因为文本类文档中包含着多种其它格式的文档；以作者个人为例，我认为最复杂的文档就是常用的wordpdf这种格式。原因就在于这种格式的文档就像一张白纸，我们可以在上面写画任何我们...

“提示词是大模型与外界交互的唯一通道，因此提示词的重要性远比我们想象中的要重要。”提示词或者说提示词工程，说起来可能大家多多少少都知道是怎么回事；但可能很多人并没有意识到提示词工程对大模型的重要性。提示词是人与大模型沟通的桥梁，就像我们要想使用电脑就离不开鼠标键盘一样；不管你是做AIGC也好，做RAG、Agent也罢，或者其它任何与大模型相关的技术或应用，都离不开提示词的存在。总之一句话，任何关于大模型的...

“智能体应用是大模型应用的一个重点方式，而怎么才能做出一个合格的智能体是很多人都在考虑的问题。”对大模型有过了解的人应该都知道，大模型应用目前主要还处于探索阶段，而关于大模型应用的技术也是日新月异，在不断持续的发展。而关于大模型的应用目前的主要形式是聊天，然后通过大模型的自身能力去完成一些工作；比如生成内容，总结文档等。但我们对大模型的期待要远远高于简单的聊天，我们需要的是大模型根据我们的指令...

“大模型的使用就类似于汽车驾驶，只有有经验的老司机才能真正开好车。”随着人工智能技术的发展，大模型的应用范围越来越广，因此学习和使用大模型成了一个必不可少的技能。但很多人面对的问题是，不知道应该怎么学习大模型，因此我们今天就来讨论一下大模型的学习方式。怎么学习大模型或许你可能并不懂人工智能，你也可能不懂大模型技术，但是你懂汽车驾驶吗？也就是开车。工具思想如果说你不知道应该怎么学大模型，甚至觉得...

“RAG的核心是怎么快速准确地召回数据，但RAG的难点还有文档处理等问题。”RAG技术是目前大模型应用的主要技术方向之一，常被应用于数据检索，智能客服等应用场景；而最近在做一个问答系统的场景，使用到了RAG技术，因此今天再来记录一下关于RAG在实际场景中所遇到的问题。关于RAG的问题关于RAG的整体流程这里就不多做介绍了，总而言之RAG的核心点有两个，其一是检索，其二是生成；生成这里就不多说了，生成的质量一靠大模型的...