AI.x社区
- 登录/注册
默认
发布时间
热度
原创
精华
算力引擎的内核：GPU 架构深度解析与 H100 技术密码
原创
社区头条本文聚焦GPU这一AI时代的核心算力引擎，从CPU与GPU的本质差异切入，解析二者在架构设计（运算单元占比、并行能力）和协同工作流程（数据传输、指令注入、并行计算、结果回传）的底层逻辑。以NVIDIAH100（Hopper架构）为核心案例，深入拆解其基本架构：80GBHBM3显存的高带宽设计、PCIE5.0接口的传输能力，以及内部层级化结构——从顶层GPC（图形处理集群）、中层TPC（纹理处理集群）到核心SM（流式多处理器）的功能分工。同时，...GPUCPU算力引擎AI构建有效的语言模型——自然语言处理（NLP）的基础
随着我们踏上创建智能语言模型的旅程，建立坚实的自然语言处理（NLP）基础至关重要。NLP是人工智能的一个分支，专注于计算机与人类语言之间的交互。通过理解NLP的基本原理，我们可以构建更有效的语言模型，使其能够以自然且易于理解的方式理解和生成语言。在本节中，我们将探讨诸如分词、词性标注和句法分析等关键概念，这些概念构成了NLP的基础。分词：分词是将文本分解为称为标记的个体单元的过程。这些标记可以是单词、短语...自然语言NLPRNN漫画DeepSeekMoE--借助Excel理解它：从原理到代码实现
精华在深度学习的广阔天地里，我们时常追求模型的高效与精准。精兵简政，这一理念在专家混合架构MoE中得到了淋漓尽致的体现。MoE，即MixtureofExperts，专家混合架构，它的核心思想在于将复杂的任务拆解为多个子任务，每个子任务由专门的“专家”模型负责处理。这种架构的优势在于，它可以根据输入数据的不同特点，动态地选择最合适的专家进行处理，从而在保证模型性能的同时，降低了计算复杂度和资源消耗。正如古人所言，“多兵不...DeepSeekMoEExcel代码关于RAG和智能体的区别，从某方面来说智能体也是RAG的一种实现方式
原创“智能体和RAG技术有交集，但智能体功能更强，应用范围更广。”在大模型的应用场景中，RAG和智能体是其两个主要应用方向；在之前对RAG和智能体不够了解的时候，一直认为RAG技术和智能体技术完全是两个不同方向的应用场景。但随着对RAG和智能体认识的加深，现在发现RAG和智能体有一定的重合部分；记得之前在一篇文章中看到过，意思大概是基于大模型构建的应用，本质是一种数据增强技术，原因就在于大模型的数据能力不足，需要依...RAGAgent智能体关于一个RAG功能需求分析案例——、怎么优化RAG的检索精确度
原创“RAG系统中，高质量的文档处理才是RAG系统的核心。”手上有一个基于自然语言对话的系统，其功能就是根据提供的文档，能通过自然语言对话的方式去询问需要的文档和资料；其本质上来说就是一个RAG系统。在之前一直强调说，RAG开发是一个入门五分钟，但要做好可能要五个月，甚至更久的一项技术；在之前对这句话还没有特别深刻的体会，但经过这个项目算是深有体会了。RAG功能优化刚开始做这个项目的时候，觉得技术比较简单；就是把...RAG手把手数学推导GRPO算法（含代码实现）
GRPO算法全称是GroupRelativePolicyOptimization，是一种针对无需奖励的强化学习人类反馈（RLHF）任务的算法。其核心思想是通过分组相对策略优化来改进模型的表现。想象一下——你是一位野心勃勃的大厨，参加了一场神秘的烹饪大赛。这场比赛的规则却让你一头雾水：❌你不能尝自己做的菜❌没有人给你打分❌没有评委点评你是“人间黑暗料理”还是“米其林之光”你心想：这还怎么玩？瞎做一通全靠运气？别急，这时候你灵机一动——...GRPO算法框架在一个智能体中，提示词应该有那几个模块组成？
原创“为了引导提升大模型输出质量，因此输入大模型的提示词需要有特定的模板。”在前面的文章中说过大模型的应用开发，本质上就是对提示词对封装，那么在一个大模型应用中，提示词应该有那几个模块呢？下面，我们以智能体开发为例，阐述一下提示词应该有那几个模块组成。智能体中的提示词模块1、SystemPrompt（系统提示）作用：为大模型定义角色、风格、边界和全局目标。常包含：a.智能体身份（如“你是一个智能项目工单生成智能体...智能体Agent提示词Kimi K2深度解析：万亿参数大模型的开源标杆？
原创引言：开源AI的“超级英雄”来了！想象一下，一个AI不仅能和你聊得头头是道，还能写代码、分析数据、自动完成复杂任务，甚至帮你规划一场旅行！这不是科幻电影，而是MoonshotAI推出的开源大语言模型KimiK2带来的全新体验。作为2025年AI领域的“黑马”，KimiK2以其强大的“Agentic”智能、1万亿参数的庞大规模和开源的免费属性，迅速席卷了全球开发者社区。今天，我们就来深入剖析KimiK2的硬核实力，看看它如何为你的工作和生活...Kimi K2大模型开源解锁LLM的“安全带”：2025年评估工具与实践全解析
原创在2025年的AI江湖里，语言模型（LLM）早已不是实验室里的“黑科技”，而是渗透到我们日常生活的方方面面——从搜索栏到客服机器人，再到智能助手，LLM的身影无处不在。但问题来了：一个靠谱的LLM和一个“翻车”的LLM，到底差在哪儿？答案藏在一个关键环节里——评估。如果把LLM比作一辆跑车，评估就是你的安全带；少了它，高速行驶可能瞬间失控。今天，我们就来聊聊如何通过科学、系统的评估框架，打造一个真正能“上路”的LLM...LLM大模型Future AGIGalileoNature: AI 与人类认知交汇
随着人工智能、认知科学与神经科学的交汇日益加深，业界越来越关注AI模型与人类大脑在表征维度、学习机制以及组织结构方面的共性与差异。Nature的四篇文献分别从“表征维度”、“多模态语义对齐”、“层次结构收敛”与“无监督生物预训练”四个方面，共同建构了一个认知框架。表征维度“深度神经网络与人类表征对齐的潜在维度”【文献1】，探索了深度神经网络与人类在自然图像概念空间中的映射差异，发现尽管整体行为表现相似，...NatureAI多模态字节开源Coze Studio：从零到一打造AI应用的超级神器
原创 社区头条
热门内容榜 • 最近上榜AI开发，从“高不可攀”到“触手可及”你是否曾梦想过打造一个专属的智能客服机器人，却被复杂的代码和算法劝退？或者你是个资深开发者，想快速验证一个AI应用的创意，却苦于没有合适的工具？别急，今天我们要聊的CozeStudio，可能是你一直在寻找的答案！作为字节跳动开源的AI智能体开发平台，CozeStudio不仅降低了AI开发的门槛，还以其强大的功能和灵活的架构，为企业和开发者提供了从创意到落地的全链路支持。让我们一起揭开...字节开源Coze StudioAI应用AI Coding 的新征途
围绕Windsurf的收购，OpenAI与Google上演商战大戏。类似Cursor，Windsurf也是“AI编码助手”。作为GenAI潜在的杀手级应用，“AI编码助手”被行业寄予厚望：将深刻影响开发效率、重新定义开发方式。AI编码助手拖累资深开发者然而近期非盈利机构METR的研究【文献1】却发现，AI并没有让资深开发者更高效。METR基于随机对照试验设计，对16位经验丰富的开源项目开发者进行测试，每人需完成246个任务。开发者预估AI有助提效 20 %，...AICoding代理范畴论、GRPO与CoT三位一体
笔者最近更新了大模型数理认知框架：重整化提取出范畴，持续重整化驱动范畴相变，然后逆重整化推理：图片关于LLM对句法和语义惊人的理解力，大家可曾想到一个关键问题：如何以数学方式刻画LLM所学到的语言范畴结构？度量LLM语言范畴空间这里是来自万字长文介绍为大语言模型建立的“语言、统计和范畴”数学框架作者TaiDanaeBradley年初给出的方法【文献1】。通过将文本片段构建为丰富范畴（enrichedcategory）：以token串...GRPO范畴论CoTOpenAI Deep Research AI代理架构
图片最近，OpenAI展示了他们打造深度研究AI代理的理想场景……关键考量工具和AI代理的数量之间存在一个最佳平衡点。确实，所有这些AI代理可以合并成一个拥有多种工具的AI代理。但工具数量和AI代理数量之间有一个最佳平衡点——当一个AI代理的工具过多时，工具选择可能会出问题。对此，NVIDIA在微调语言模型以实现精准工具选择方面做了很棒的研究。OpenAI的总体思路似乎是多个AI代理协作与编排。建立上下文和多个AI代理的协作非...AI代理架构5 个命令行 AI 编码助手实测：有惊喜，也有踩雷
我已经在终端里摸爬滚打好几年了。那是我最舒服的地盘——写功能、调试、代码重构、审查PR。终端又快又专注，还没啥干扰。不过最近，我的开发流程里悄悄混进了一种新玩意儿：活在命令行里的AI助手。不是IDE里那种花里胡哨的代码补全copilot。我说的是真正的、能执行任务的编码助手，直接在你的终端里干活。给它们一个目标，它们就能生成代码、编辑文件、提交更改，有时候还能跑测试——全都在你的shell里。我当然得试试：这些家...AI编码CLI如何微调大模型，让它更聪明地使用工具？
精华 社区头条虽然大型语言模型（LLMs）已经重新定义了AI的可能性，但它们依然有个根本性的局限：无法与外部世界互动，知识停留在训练时的时间点，能力也局限于文本生成。在这篇文章中，我将探讨如何通过微调LLMs来让它们使用工具，突破这一局限。我会先从概念上讲解这是怎么实现的，然后通过一个具体的Python代码示例带你一步步操作。。工具调用（ToolCalling）的现状现在，像GPT4.1、Claude和Llama3这样的模型都已标配工具调用功能。你只需...大模型工具静态文本在AI工具间来回切换了1年后，可灵用一张画布终结了它
精华 社区头条 热门内容榜 • 最近上榜这次去WAIC，论坛、探展直播、活动等等，硬生生干了个周末，几乎累麻了。。我自己这两天印象最深的，也是我觉得对我最有用的。还是可灵的更新。他们首发了1个全新的功能，灵动画布，还把之前的多图参考做了巨幅升级。这两都挺酷的。我当时在现场，录了一下灵动画布的发布，真的，发完以后底下掌声雷动。这个形态我当时看完以后，眼前一亮，确实非常的有意思。特别是对于AI创作者来说。当时论坛结束以后，我问他们啥时候能用，他...AI工具模型无需微调的平滑模型压缩：一种创新的神经网络技术突破
基于平滑权重学习的高效模型压缩方案随着深度学习模型规模的不断扩大，如何在保持模型性能的同时实现高效压缩成为了一个重要挑战。来自剑桥大学和西根大学的研究团队提出了一种创新的模型压缩方法，通过引入平滑权重学习(SmoothWeightLearning)和基于奇异值分解的压缩技术，在不需要微调的情况下实现了出色的压缩效果。该方法在CIFAR10数据集上，成功将ResNet18的参数量减少70%的同时，仍保持91%的准确率。创新性压缩方法传统的...软件下一代智能协作的雏形：字节跳动AIME框架如何推动AI多智能体系统演化
我们正见证一种新的融合力量逐渐成形——大型语言模型（LLMs）与多智能体系统（MultiAgentSystems，简称MAS）的深度整合。过去智能体往往孤立运作，受限于静态规则和单一任务定义。而如今，随着语言模型的语义理解和推理能力的跃升，智能体不再只是执行者，更成为能够协同、规划、适应环境的“认知单元”。在这一背景下，MAS不再是简单的多代理并行处理系统，而演变为一个语言驱动、反馈自适应的群体智能结构。这也是字节跳动所...软件资深大牛踩坑总结！构建生产级Agent系统的六项原则：认真打磨你的系统提示词！精心设计你的工具集！
社区头条作者ArseniKravchenko编译云昭出品51CTO技术栈（微信号：blog51cto）有时候，总有人会问我：“我刚接触agenticdevelopment，正在做一个项目，但总觉得好像少了点‘圈内人’才知道的经验。你能不能帮我补补课？”我常常想推荐一些硬核的课程，比如HuggingFace或伯克利的多周训练营，但也理解不是每个人都想那么深入。于是我决定写下这篇文章，分享六条我在开发app.build过程中总结出来的实用经验。这篇更通用，也更适合作为Agent...Agent系统框架
