AI.x社区
- 登录/注册
默认
发布时间
热度
原创
精华
LLM超长上下文查询-性能评估实战
在大型语言模型（LLM）的应用中，有几个场景需要以结构化的方式呈现数据，其中信息提取和查询分析是两个典型的例子。我们最近通过更新的文档和一个专门的代码仓库强调了信息提取的重要性。对于查询分析，我们同样更新了相关文档。在这些场景中，数据字段可能包括字符串、布尔值、整数等多种类型。而在这些类型中，处理高基数的分类值（即枚举类型）是最具挑战性的。所谓的“高基数分类值”，指的是那些必须从有限的选项中选择的...LLM分类值基准在长上下文LLM的时代，RAG是否仍然必要？
一、结论写在前面论文标题：InDefenseofRAGintheEraofLongContextLanguageModels论文链接：https:arxiv.orgpdf2409.01666克服早期生成式大型语言模型（LLMs）的有限上下文限制，检索增强生成（RAG）在过去一直是基于上下文的答案生成的可靠解决方案。最近，长上下文LLMs的出现使得模型能够整合更长的文本序列，使得RAG变得不那么吸引人。最近的研究表明，长上下文LLMs在长上下文应用中显著优于RAG。与现有倾向于长上下...LLMSELF-ROUTERAG什么是生成式大模型？大模型与生成式大模型的区别？
原创“生成式AI或者说AIGC的本质是一种基于概率分布的数据表征技术”最近一段时间一直在做AIGC(人工智能生成内容)方面的应用，而AIGC属于生成式AI的范畴；刚开始只是把这些生成式AI拿过来用一下，但随着对大模型了解的加深，突然发现生成式AI好像也没有那么简单。比如说，生成式AI是怎么实现的？可能有人会这么回答，是基于Transformer等架构实现，基于概率分布的一种模型。当然，这么说好像也没错，但非生成式AI又是怎么实现的呢...模型概率分布借助氛围编程用Python编写一个速读应用程序，只需15分钟
原创
社区头条少些滚动，多点专注。在这个用时15分钟的Python项目中，我们将借助氛围编程编写一个简洁、无干扰的速读应用程序。想象一下：你想构建一个速读应用程序。你无需花数小时研究要使用哪些Python模块和库、编写不同的组件代码以及调试语法错误，只需用简单的英语描述需求即可。短短几分钟内，你就可以调整字体大小，并与AI编程伙伴讨论改进用户体验。这就是氛围编程，这种协作方法利用自然语言指令通过迭代对话，帮助构建实用的应用...Python速读应用程序氛围编程应用程序任务驱动：详细解析LLM的评估指标
原创译者李睿审校重楼在自然语言处理(NLP)的动态环境中，大型语言模型(LM)性能的评估是衡量其在各种下游应用程序中的有效性的关键因素。不同的应用程序需要与其目标一致的不同性能指标。本文将详细介绍各种LLM评估指标，探索它们如何应用于实际场景。从传统的摘要任务到更细致的场景评估，了解用于评估LLM熟练程度的不断发展的方法，揭示了它们的优势、局限性以及在推动NLP研究和应用方面的实际意义。以下是一些常见的文本应用程序...LLMNLP系统「有效上下文」提升20倍！DeepMind发布ReadAgent框架
基于Transformer的大语言模型（LLM）具有很强的语言理解能力，但LLM一次能够读取的文本量仍然受到极大限制。除了上下文窗口较小外，LLM的性能会随着输入内容长度的增加而下降，即便输入内容未超过模型的上下文窗口长度限制也是如此。相比之下，人类却可以阅读、理解和推理很长的文本。LLM和人类在阅读长度上存在差异的主要原因在于阅读方法：LLM逐字地输入精确的内容，并且该过程相对被动；但过于准确的信息往往会被遗忘，而阅...DeepMind 框架爆火的本地知识库项目是什么？什么是RAG？本地知识库与大模型的关系
原创“本地知识库就相当于大模型的外部资料库。”很多人应该都听过本地知识库项目，它是当今人工智能领域爆火的项目之一，那么到底什么是本地知识库？它和大模型有什么关系？怎么构建本地知识库？01、为什么需要本地知识库？其实本地知识库和大模型本身没有什么直接关系，可以说它们是两个完全独立的技术。但因为大模型的幻觉问题和大模型的数据更新迟缓，因此才把知识库技术与大模型技术相结合，产生了大模型知识库技术。什么是知...RAG大模型怎么看大模型、RAG、Agent、知识库、向量数据库、知识图谱、AGI的区别和联系？
原创我们要把AI大模型当做人的大脑，因此调用AI大模型，相当于调用一个人，把AI大模型当人看，TA懂人话、TA说人话、TA会直接给出结果，但结果不一定正确。因此在AI大模型的推理基础上，通过RAG、Agent、知识库、向量数据库、知识图谱等技术手段实现了真正的AGI（通用人工智能）。这些技术到底有哪些区别和联系，下图作了横向对比，接下来我们详细剖析。1、大语言模型（LLM）大语言模型（LLM）是通过深度学习方法，利用庞大的文本数...大模型RAGAgent从文字模型到世界模型！Meta新研究让AI Agent理解物理世界
LLM已经可以理解文本和图片了，也能够根据它们的历史知识回答各种问题，但它们或许对周围世界当前发生的事情一无所知。现在LLMs也开始逐步学习理解3D物理空间，通过增强LLMs的「看到」世界的能力，人们可以开发新的应用，在更多场景去获取LLMs的帮助。AIAgent，比如机器人或是智能眼镜，它们可以通过感知和理解环境来回答一些开放性问题，比如「我把钥匙放哪里了？」这样的AIAgent需要利用视觉等感知模式来理解其周围环境，并能...AI模型生成式 AI 注定会颠覆搜索
原创作者EmiliaDavid编译伊风出品51CTO技术栈（微信号：blog51cto）AI搜索正在向更深处走去。AI搜索的领头羊——Perplexity最近对其ProSearch人工智能工具进行了升级。主要改进是启动了多步骤推理，这使得AI搜索可以解决更复杂的问题。Perplexity能理解问题何时需要规划，逐步实现目标，并更高效地合成综合答案，同时可以在先前结果的基础上启动后续搜索。无独有偶，腾讯所推出的大模型应用元宝，也布局了AI搜索。当用户进行提问时...生成式AI搜索如何编写出色的生成式AI提示？
原创生成式人工智能（GenAI）已经成为一种提高生产力和处理日常任务的强大工具。这种工具可以根据收到的输入创建新的内容，包括文本、图像甚至代码。虽然这种工具大有潜力，但有效地发掘它们的力量却需要一种特定的技能，即编写优秀提示的能力。提示是我们赋予AI工具的指令，以指导它们的输出。可以把提示看作是现代版的计算机代码，只不过用自然语言编写。就像传统编程一样，有一些有效和无效的方法来创建提示。不妨探索提示编写之...人工智能GenAI生成式AI机器人ChatGPT时刻！英伟达开源世界大模型，完美模拟物理世界！
精华全球AI领导者NVIDIA（英伟达）在2025年CES展会上，开源了全新世界大模型NVIDIACosmos。Cosmos能从数据整合、训练再到定制各个开发阶段的，大规模模拟、构建物理世界的基础模型，同时支持自定义微调。例如，你想开发一个实体仓储机器人，但没有真实大型仓储环境为机器人提供货物搬运、拣选、分拣等训练环境，通过Cosmos就能轻松创建一个模拟的物理仓储环境，来训练、观察、优化机器人各种动作。在自动驾驶领域，想观察汽车在大雨...生成AI模型Spring AI：如何采用Java编写生成式人工智能应用程序
原创译者李睿审校重楼生成式人工智能(GenAI)是当今科技界的一个热门话题。它是人工智能的一个子集，专注于创造新的内容，例如文本、图像或音乐。GenAI组件的一种流行类型是大型语言模型(LLM)，它可以根据提示生成类似人类的文本。检索增强生成(RAG)是一种基于外部知识来源来提高生成式人工智能模型准确性和可靠性的技术。虽然大多数GenAI应用程序和相关内容都以Python及其生态系统为中心，但如果采用Java编写GenAI应用程序应该怎么...人工智能生成式人工智能如何创建LLM应用程序的框架
原创你在考虑在产品中使用LLM时，可以使用具有三个阶段的框架。这个框架将帮助定义问题、选择适合的模型、创建有效的提示，并确保整个流程在投入生产时有效。有许多研究和演示表明，大型语言模型(LLM)可以执行令人印象深刻的任务。虽然并没有一种万能的方法，但可以尝试创建一些指南，以帮助人们更好地在LLM所带来的创新和困惑中导航。在考虑是否以及如何在产品中使用LLM时，可以使用具有以下三个阶段的框架。它可以帮助定义问题，...大型语言模型LLM机器学习Spring AI + Ollama 快速构建大模型应用程序（含源码）
1、SpringAI开发框架介绍SpringAI借鉴了LangChain（Python）的灵感，后者支持与AI和多种LLM集成。目前SpringAI提供了多种大模型和向量数据库供您选择。可以登录官网（https:spring.ioprojectsspringai）查看SpringAI的更详细文档。今天的SpringAI项目中会使用到Vaadin，Vaadin是一个基于Java和Kotlin的Web应用开发框架。2、开始构建大模型应用项目第一、需求开发一款能够汇总股票市场周报的工具。第二、项目效果项目效果如下：...Spring AIOllama大模型如何使用GPT-4o函数调用构建一个实时应用程序？
原创本教程介绍了如何使用OpenAI最新的LLMGPT4o通过函数调用将实时数据引入LLM。我们在LLM函数调用指南(详见https:thenewstack.ioacomprehensiveguidetofunctioncallinginllms)中讨论了如何将实时数据引入聊天机器人和代理。现在，我们将通过将来自FlightAware.com的API与新的GPT4o模型集成，进一步探究这个概念，以便实时跟踪航班状态。FlightAware的AeroAPI是一个可靠的充分利用REST的API，提供按需访问航班跟踪和状态数据。它允...GPT-4oOpenAILLM文本直接生成2分钟视频，即将开源模型StreamingT2V
Picsart人工智能研究所、德克萨斯大学和SHI实验室的研究人员联合推出了StreamingT2V视频模型。通过文本就能直接生成2分钟、1分钟等不同时间，动作一致、连贯、没有卡顿的高质量视频。虽然StreamingT2V在视频质量、多元化等还无法与Sora媲美，但在高速运动方面非常优秀，这为开发长视频模型提供了技术思路。研究人员表示，理论上，StreamingT2V可以无限扩展视频的长度，并正在准备开源该视频模型。论文地址：https:arxiv.orgabs2...生成视频使用测试时间训练（TTT）生成一分钟视频
原创从文本生成视频已取得了长足的进展，但在制作更长的多场景故事时仍然会遇到瓶颈。虽然Sora、Veo和MovieGen之类的扩散模型已提高了视觉质量的门槛，但它们通常仅限于20秒以内的片段。真正的挑战是什么？上下文。从一段文本生成一段一分钟的故事驱动型视频需要模型处理数十万个token，同时保持叙事和视觉的连贯性。英伟达、斯坦福大学、加州大学伯克利分校及其他机构的这项新研究应运而生，它引入了一种名为测试时间训练（TTT）的...测试时间训练生成式AITTTTinyAgent：边缘端的功能调用
原创 精华LLMs通过纯文本语言（例如英语）执行命令的能力使得能够完成用户查询的代理系统得以实现，通过协调正确的工具集合（例如ToolFormer、Gorilla）。这个能力以及最近的多模态努力，比如GPT4o或Gemini1.5模型，已经扩展了AI代理的可能性范围。虽然这非常令人兴奋，但这些模型的庞大尺寸和计算需求通常需要在云端进行推理。这可能会为它们的广泛应用带来几个挑战。首先，将视频、音频或文本文档等数据上传到云端的第三方供应商可能会...大语言模型首次实现纳米晶体端到端解析，哥大团队提出PXRDnet，成功解析200种复杂模拟纳米晶体
原创X射线衍射（Xraydiffraction,XRD）的发现和应用堪称晶体学发展中的一个重要里程碑，因为该技术使得人们能够深入了解晶体的微观结构，继而带动了材料学和整个人类文明的进步。然而，当传统的方法与由微小颗粒组成的粉末状纳米晶体不期而遇时，理想的结果却并未发生。由于纳米晶体尺寸有限（通常小于1000Å），其X射线衍射图谱中布拉格峰会出现明显展宽，导致结构信息出现严重的实质性退化，这为精确解析其晶体结构带来了巨大挑战...AI for Science材料科学纳米晶体人工智能深度学习
