AI.x社区
- 登录/注册
默认
发布时间
热度
原创
精华
深度长文，手把手教你微调Qwen-3大模型，基于Python和Unsloth（下）
社区头条
热门内容榜 • 最近上榜维持对话与推理的比例平衡在准备好数据集后，通常即可开始模型训练，但我们仍需考虑模型的对话与推理比例（ChattoReasonRatio）。较高的对话比例侧重对话流畅性和通用知识，而较高的推理比例则强调逻辑推理和问题解决能力。二者的平衡对构建既能进行自然对话又能处理复杂任务的多功能模型起着重要作用。本文假设需要构建一个对话模型，因此设定对话部分占比70%，推理部分占比30%。实现方式如下：importpandasaspd设定对话比例ch...Qwen-3大模型PythonLoRAShop炸裂登场：多概念LoRA“PS”神器！一键融合人物/风格，原图细节无损！
社区头条文章地址：https:arxiv.orgabs2505.23758开源地址：https:lorashop.github.io（待开源）亮点直击首创多概念LoRA编辑框架：首次实现无需重新训练微调，直接在给定图片中无缝插入多个由LoRA定义的定制化概念（物体、人物、风格）。解耦掩码自动提取技术:创新性利用模型内部特征图，自动生成每个LoRA概念的空间影响区域掩码，精准定位编辑位置。免训练动态融合机制:在推理阶段动态混合多个LoRA权重，仅在其对应掩码区域内激活特定...训练模型生成关于Agent在实际开发过程中遇到的问题记录
原创“Agent智能体技术理论和实际操作完全是两码事，这也是为什么市场一直有人说还看不到大模型的应用价值。”最近在做基于Agent的数据分析功能，主要使用大模型和工具来实现；通过大模型自主分析的能力获取数据的分析结果，然后调用工具来进行绘图；开发框架使用的是Langchain和Langgraph。但是本来以为是一个很简单的事情，但等到真正操作起来时才发现；其过程远比自己想象中的要复杂得多。果然是纸上得来终觉浅，绝知此事要躬...Agent智能体基于Langchain框架的Agent智能体实现之工具集成
原创“工具调用是大模型智能体的核心理念，没有工具就没有智能体的存在。”智能体开发是大模型应用中一个重要的概念，也是大模型应用的未来；而关于智能体的开发有各种各样的概念，但核心无非有两个一个是函数调用，另一个就是工具的实现。关于函数调用有两种方式，其一是之前的functioncall，其二是现在比较火的MCP协议；不管是fc还是MCP目的都是让大模型能够调用外部的工具来实现具体的功能。而今天我们主要介绍的就是基于Langcha...LangchainAgent智能体机器学习轻量化加速的五大核心技术突破
原创 社区头条本文将深入研究修剪、量化、蒸馏等轻量化机器学习的五种核心技术，从而使你的神经网络更高效、更易于部署。简介无论你是在准备面试，还是在工作中构建机器学习系统，模型压缩都已成为一项必备技能。在大语言模型（LLM）时代，模型规模越来越大，如何压缩这些模型以使其更高效、更小巧、更易于在轻量级机器上使用，这一挑战从未如此严峻。在本文中，我将介绍每位机器学习从业者都应该理解和掌握的四种基本压缩技术。我将探讨剪枝...大语言模型LLM机器学习CoT-RAG：用知识图谱和智能检索修复大语言模型推理的缺陷
原创 社区头条在当今数字化时代，大语言模型（LLMs）已经彻底改变了我们与信息交互的方式。从生成类人文本到翻译语言，再到编写代码，它们的能力令人惊叹。然而，当涉及到复杂的推理任务时，这些模型的表现却常常不尽如人意。今天，我们要介绍的CoTRAG框架，就是为了解决这一问题而诞生的。一、大语言模型推理的困境大语言模型（LLMs）如GPT4、Claude和Llama等，以其强大的语言生成能力，已经在众多领域得到了广泛应用。然而，当它们被要求解...CoT-RAG知识图谱智能检索大语言模型Transformer入门必读！从文本分词到输出概率的全解析
原创 精华 热门内容榜 • 最近上榜在当今的AI世界里，Transformer架构无疑是自然语言处理（NLP）领域的超级英雄。从ChatGPT这样的聊天机器人，到翻译工具，再到代码生成器，Transformer都扮演着核心角色。它在2017年的论文《AttentionisAllYouNeed》中首次亮相，彻底改变了我们对语言的理解和生成方式。今天，我们就来深入解析Transformer和大型语言模型（LLMs）的核心机制，用简单易懂的方式带你领略它们的魅力。Transformer和LLMs是什么？想象一下，你在读一本...TransformerLLMsNLPAI界的“八仙过海”：八大专业模型各显神通，谁才是你的“菜”？
原创 精华 热门内容榜 • 最近上榜在不到十年前，与计算机进行有意义的对话还只是科幻电影中的情节。然而如今，数以百万计的人每天都在与AI助手聊天、通过文字描述生成令人惊叹的艺术作品，甚至利用这些AI工具理解图像并完成高级任务。这些进步背后，是众多专业AI模型的强力支撑，每个模型都有其独特的功能和应用场景。今天，就让我们一起走进八大专业AI模型的世界，看看它们是如何重塑数字世界，甚至可能塑造我们的未来。一、LLMs：大型语言模型，开启语言智能...LLMs大语言模型AI大模型GRIT：让AI"指着图说话"的新思路
GRIT从本质上而言是一种改良过的强化学习，它针对输出进行了魔改，用一个生活例子来理解。想象一下，你在和朋友看一张照片，朋友问你："这张照片里有几只猫？"普通人会怎么回答？"我看看，这里有一只白猫（用手指着左上角），那里还有一只黑猫（指着右下角），所以一共有2只猫。"传统AI是怎么回答的？"我需要仔细观察这张图片，分析其中的动物特征，通过形状、颜色等特征识别，最终得出结论：图片中有2只猫。"看出区别了吗？人...AIGRITGPTAI的"空间盲症"
原创当我们看到一张照片时，大脑会自动分析其中的空间关系——哪个物体在前，哪个在后，左边是什么，右边是什么。但对于当今最先进的AI系统来说，这种看似简单的空间理解却是一个巨大的挑战。MetaFAIR和香港中文大学的研究团队最近发布的MultiSpatialMLLM项目，正在试图解决这个根本性问题。现有的多模态大语言模型虽然在图像识别和文本理解方面表现出色，但在空间推理上却存在严重缺陷。这些模型往往连最基本的左右区分都会出错，...AI图像识别文本理解推理模型的必经之路-自适应推理
自适应推理模型的核心就是让模型自己根据用户问题的来判断是否进行推理预测。Arm存在三种格式：直接回答、短CoT或代码、长CoT，同时引入AdaGRPO解决传统GRPO中的格式崩溃问题。除了自适应模式，Arm还支持另外两种模式；指令引导模式，用户明确强制选择某一种指定推理格式共识引导模式，聚合直接回答、短CoT或代码三种格式的输出，当答案一致时，直接返回，否则认为任务较复杂，切换到LongCoT推理模式。模型的训练分为两个阶段，...推理模型自适应推理Graph-Reward-SQL: 字节跳动新框架让Text-to-SQL训练效率提升10倍
1.强化学习在Text2SQL领域的现状Text2SQL技术是将自然语言转换为结构化数据库查询，通过赋能非技术人员高效操作关系数据库。当前研究聚焦于基础模型微调，其中强化学习（RL）被证实能显著提升模型表现。而奖励模型（RM）的精心设计尤为重要，其信号质量直接影响微调效果。在现有RL方案中，有三种主流奖励方案：执行准确率:仍是核心指标，通过查询正确性提供直观反馈。BradleyTerry奖励模型:基于大模型的BradleyTerry奖励模型（B...字节跳动框架GMNScore清华大学新RAG框架：DO-RAG 准确率飙升33%！
热门内容榜 • 最近上榜1、RAG研究现状问答系统（QA）让用户能用自然语言从海量资料中精准获取信息，主要分为两类：开放域QA依托常识作答封闭域QA则需专业资料支持随着DeepSeekR1、Grok3等大语言模型（LLM）的突破，文本流畅度和语义理解显著提升。但这些模型依赖参数记忆，遇到专业术语或复杂推理时，仍可能"胡言乱语"或答非所问。检索增强生成（RAG）通过在作答前抓取相关片段提升准确性，知识图谱（KG）则用结构化关系网络支持多步推理。但现有方案...RAG框架DO-RAGScale-Up 扩展与故障容错：NVIDIA 非均匀张量并行
精华一、背景最近华为推出了超节点CloudMatrix384，进一步引发业内对ScaleUp和ScaleOut的广泛讨论。不可避免地也会涉及与NVIDIA超节点NVL72的对比。ScaleUp和ScaleOut各自具有不同的优劣势和局限性。除了扩展性和成本问题外，故障和容错也是一个不可忽略的挑战。本文中，我们介绍一个NVIDIA最近在这一领域的研究工作，着重探讨随着ScaleUp域的扩展，如何应对相应的容错问题。对应的论文为：[2504.06095]NonuniformTensorParallelism...NVIDIA终于有人把AI智能体的"落地难题"给解决了！用DAG工作流让AI不再"胡言乱语"
精华 社区头条 热门内容榜 • 最近上榜你有没有遇到过这样的情况：跟AI聊天的时候，它前一秒还好好的，下一秒就开始胡说八道？明明告诉它要遵守某些规则，但它总是"选择性失忆"？如果你正在开发AI产品，或者对AI技术感兴趣，今天这篇文章绝对值得你花5分钟读完。我们要聊的是一个让AI智能体在真实业务中"言听计从"的革命性方法。图片一、AI智能体的"叛逆期"：为什么它们总是不听话？想象一下，你花了几个月开发了一个电商购物助手，结果上线第一天就出事了：AI居然向...AI智能体DAGDarwin Gödel Machine:自我改进智能体的开放式进化
AI系统能否无限地自我改进？这项工作展示了自我改进AI的潜力，灵感来源于生物进化和开放式探索。总体概况这项工作提出了达尔文哥德尔机器（DGM），该系统通过结合自指代码修改和开放式进化搜索，推进了自我改进AI的愿景...与原始哥德尔机器不同（它要求代码更改具有可证明的益处，这是一个实际上难以处理的约束条件），DGM采用了经验方法：它修改自己的代码库，并在编程基准测试上评估改进效果。自指自我改进循环DGM从单个编程...智能体开放式进化并肩谷歌，DeepSeek成全球第二大AI实验室！中国AI如何改写全球开源版图？
社区头条 昨天，DeepSeekR1模型完成最新升级并全面开源。不久后，独立评测机构ArtificialAnalysis发布最新排名：DeepSeek凭借R10528版本跃居全球第二大AI实验室，与谷歌Gemini2.5Pro平起平坐，一举超越马斯克的xAI、扎克伯格的Meta和Anthropic三大硅谷巨头。  DeepSeekR1在七项顶级测试中综合得分从60分飙升至68分，进步幅度与OpenAI从o1到o3的代际升级相同。  尤其引人瞩目的是，它在竞赛数学（AIME2024）和...DeepSeek谷歌开源大模型算家云租算力，到算家云LLM可以在没有采用强化学习或大型数据集的情况下学习推理吗？
原创 社区头条 热门内容榜 • 最近上榜针对提升LLM推理能力面临的挑战，斯坦福大学研究人员提出了“思考、修剪、训练”（TPT）框架，让LLM利用自生成且验证正确的数据迭代优化。研究表明，无需强化学习、大型数据集或外部教师模型，TPT可以使较小模型推理性能媲美甚至超越大模型，凸显了TPT框架在提升模型推理能力和准确性的潜力。目前，缺乏高质量的训练数据仍然是提高大型语言模型（LLM）推理能力的主要障碍之一。斯坦福大学研究人员最近进行的一项研究探索了一个...大型语言模型LLM人工智能对 AI Agent 定义的一些探讨
原创 社区头条编者按：当身边的人都在谈论AIAgent时，你是否会困惑：究竟什么才是真正的智能体？为什么OpenAI、IBM和各大技术领袖给出的智能体定义都不相同？我们今天为大家带来的这篇文章，作者的观点是：当前流行的智能体定义要么过于复杂，要么严重偏离核心要义，真正的智能体应该被定义为“具备自主性和行为能力，能在所处环境中实现一个或多个目标的系统”。本文系原作者观点，BaihaiIDP仅进行编译分享作者StevenWillmott编译岳扬2025年...智能体基于KG生成语料增强解决RAG问答幻觉问题的简单框架-Walk&Retrieve
原创 热门内容榜 • 最近上榜Walk&Retrieve基于知识图谱，利用基于图遍历和知识表述来进行零样本RAG的语料库生成。解决RAG系统的幻觉问题。该框架思路比较简单，核心点在于零样本RAG的语料库生成，下面来看看，供参考。方法架构语料生成在框架中，语料生成该方法的核心步骤。该阶段从知识图谱中提取相关信息，并将其转化为适合LLM处理的文本格式。语料生成包括以下几个步骤：基于图的遍历、知识表示和索引。1.基于图的遍历随机游走：随机游走是一种随机过程...RAGLLM知识图谱
