AI.x社区
- 登录/注册
默认
发布时间
热度
原创
精华
详解模型蒸馏，破解DeepSeek性能谜题
不少关注DeepSeek最新动态的朋友，想必都遇到过“Distillation”（蒸馏）这一术语。但它究竟指代何种技术，又为何在AI领域占据重要地位呢？本文为你深度剖析模型蒸馏技术的原理，同时借助TensorFlow框架中的实例进行详细演示。相信通过阅读本文，你会对模型蒸馏有全新的认识，轻松解锁深度学习优化的新视角。1模型蒸馏原理在深度学习领域，模型蒸馏是优化模型的关键技术。它让小的学生模型不再单纯依赖原始标签，而是基于大的教...DeepSeek性能模型蒸馏浅显易懂的上下文工程技术指南
原创什么是上下文工程？为什么大家都在谈论它？今天我们来了解一下！上下文工程正在迅速成为AI大模型应用新架构师工程师的一项关键技能。它不再仅仅是巧妙地提示词，而是关于系统性地组织上下文。目前存在的问题是：大多数AI智能体（或大语言模型应用）之所以失败，并不是因为大模型本身不好，而是因为它们缺乏成功所需的正确上下文。例如，一个典型的检索增强生成（RAG）工作流程通常是80%的检索和20%的生成。所以：好的检索即使搭...上下文工程AI大模型大模型应用AI 智能体应用落地八层技术架构剖析
原创 精华
社区头条以前的AI就是按指令办事，现在不一样了，AI智能体能自己做决定、定目标、独立行动。它不再是简单的“你问我答”，而是有计划、有反思的“小能手”。搞清楚它的技术架构，就能更好地用它在企业里进行落地。AI智能体技术架构一共有8层：基础设施层、智能体互联网、协议层、工具和增强层、认知和推理层、记忆和个性化层、应用层、运维和治理层，下文我们详细剖析之。一、AI智能体八层技术架构剖析0、AI智能体的八层架构：让AI在复...AI 智能体AI大模型别被单Token价格降九成忽悠了！旧金山华人CEO犀利揭秘：Claude被包月+高Token消耗榨得都不挣钱了
原创 社区头条编辑云昭出品51CTO技术栈（微信号：blog51cto）“说来挺奇怪的，token的成本是越来越便宜了，但我们的token账单却指数级增长，业务的利润一降再降。”最近，加州一家初创公司TextQL的创始人&CEO，EthanDing（没错，又是一位华人创业者），近日抛出了一个很独特的观点。“别被‘杠杆率’忽悠住了！”Ding认为，虽然现在许多大模型厂商都实打实地降低了推理token的价格，但这并不是大家所预期的那样利好。其一，大模型虽然降价，...TokenClaude工具苹果CEO库克全员讲话：AI超越手机互联网！一场关乎所有行业的革命
原创 社区头条最近，苹果CEO蒂姆·库克在一次全体会议上对所有员工强调了一个震撼性的观点：人工智能可能比智能手机或互联网更强大。  同时，根据彭博社分享的细节，库克向员工保证，苹果将在人工智能方面投入巨资，并承诺“不惜一切代价”发挥领导作用。 库克将AI与互联网和智能手机相提并论，甚至认为其影响更为深远，是基于一个根本性的认知：AI代表着交互方式和生产力范式的双重跃迁。 如果说互联网解决了信息的连接...库克苹果人工智能算家云租算力，到算家云Qwen3 Embedding 与 Reranker 微调实践：从理论到落地的完整指南
原创
热门内容榜 • 最近上榜在检索增强生成（RAG）系统中，“召回”与“排序”是决定效果的两大核心环节。Qwen3系列开源模型通过Embedding与Reranker的组合，为这两个环节提供了高效解决方案——Embedding负责从海量数据中“粗召回”相关内容，Reranker则对召回结果“精排序”，让最相关的信息脱颖而出。本文将记录如何通过LoRA微调让这两个模型适配垂直领域。一、为什么需要微调？Qwen3的Embedding和Reranker模型在通用场景表现优异，但在垂直领域（如专...Qwen3 EmbeddingReranker微调ICCV 2025｜单视频生成动态4D场景！中科大&微软突破4D生成瓶颈，动画效果炸裂来袭！
社区头条文章链接：https:arxiv.orgpdf2507.23785开源地址：https:gvfdiffusion.github.io亮点直击新颖的4D生成建模框架，由两个核心模块组成：直接的4D网格到高斯变分场的VAE（变分自编码器）与高斯变分场扩散模型。训练了一个扩散模型，用于学习变分场在隐空间中的分布，该模型以输入视频和标准3DGS为条件，从而实现可控的4D内容生成。借助本文隐空间的紧凑性，采用DiT架构，并引入了时间自注意力层，以捕捉动画序列中的平滑时间动态...AI4D视频生成OCRFlux：一个基于LLM的复杂布局与跨页合并的PDF文档解析
原创在数字化办公和信息处理的浪潮中，文档解析技术一直是关键的幕后英雄。无论是学术研究、金融分析，还是日常办公，我们都需要将纸质文档或PDF文件中的内容高效、准确地转化为可编辑、可理解的格式。然而，现有的文档解析工具虽然众多，却仍存在诸多痛点。今天，我们要介绍的OCRFlux，正是为了解决这些问题而生。一、现有文档解析工具的局限性现有的文档解析工具虽然吸引了众多用户，但在实际使用中，它们的局限性也逐渐暴露出来...OCRFluxLLMPDF文档解析ChatGPT Agent介绍，OpenAI又要放大招了？
原创 热门内容榜 • TOP3过去你用ChatGPT，更多是在聊天、问答、写东西。而现在，它终于不止是一个语言模型了。OpenAI最新发布的ChatGPTAgent，不再只是“陪聊”工具，它能看网页、点按钮、写代码、动脑子，也能动手干活。这是AI从大脑走向四肢的一步飞跃。1.什么是ChatGPTAgent？一句话：ChatGPTAgent是一个能帮你实际完成任务的AI执行者。比如你说：“帮我查一下下周的会议有哪些客户，然后根据最近新闻做一份简报。”“四人日式早餐食材规划一下，直...ChatGPTOpenAIAgentNVIDIA推出面向Agentic AI的系统性安全框架
原创 社区头条 热门内容榜 • TOP1随着大语言模型（LLMs）从单纯的文本生成器演化为具备规划、推理和自主行动能力的Agentic系统，其能力大幅提升，但也带来了安全、合规和治理等方面的新挑战。为了应对这些风险，NVIDIA发布了一套开源安全软件套件与后训练安全策略（SafetyRecipe），为企业部署AgenticAI提供系统性防护手段。核心问题与背景AgenticAI具备更强的自主性和工具使用能力，但也引发以下问题：内容输出风险：生成有害、带偏见或不合规内容；安全隐患：...NVIDIAAgentic AI开源安全软件套件基于智驾工具链的高精地图真值反投
原创 社区头条HDmap真值反投是指在自动驾驶开发过程中，利用高精地图（HDmap）作为参考，将传感器采集到的真实数据（如摄像头图像、激光雷达点云等）与地图中的精确信息进行对比和校准，从而生成用于算法训练和验证的“真值”数据。这一过程通常在自动驾驶仿真和测试阶段使用，目的是通过高精地图提供的精确环境信息，来验证和优化自动驾驶系统的感知、定位和决策模块。核心概念解析HDMap（高精地图）包含车道线、交通标志、路缘石等厘米级精...智驾工具链自动驾驶HDmap真值反投基于RAG的AI知识库如何评估优化
原创在评估AI知识库（尤其是RAG类型）时，确实面临一些挑战，因为其输出的正确性和相关性难以像数据抽取或Text2SQL系统那样直接通过标准答案来衡量。以下是一些推荐的评估指标和方法，可以帮助你更全面地评估RAG系统的性能：1.检索质量评估召回率k（Recallk）：衡量检索到的相关文档占所有相关文档的比例。精确率k（Precisionk）：衡量检索到的前k个文档中相关文档的比例。平均倒数排名（MRR）：衡量第一个正确答案的倒数排名的平均...RAGAI知识库刚刚！Claude Code对外公开了官方内部最佳实践！核心贡献者：CC是一个纯粹Agent工具
原创 社区头条编辑云昭出品51CTO技术栈（微信号：blog51cto）ClaudeCode终于有了官方大佬出来分享内部的最佳实战哲学了。两天前，Anthropic官方YouTube账号放出了一个AI应用技术团队的老大在旧金山的CodewClaude会议上的分享内容。这个分享全程25分钟，可以说句句干货，讲述了ClaudeCode的诞生和最佳实践原则，用分享者CalRueb的话说就是揭开“引擎底盖”，看看底层就是是如何运作的。Rueb是Anthropic技术团队成员，加入公司已经近两年，是CC...ClaudeAgent工具什么是端到端自动驾驶？
原创所谓“端到端”，其实是来自深度学习中的概念，英文为“End—to—End（E2E）”，指通过一个AI模型，只要输入原始数据就可以输出最终结果。应用到自动驾驶领域，意味着只需要一个模型，就能把摄像头、毫米波雷达、激光雷达等传感器收集到的感知信息，转换成车辆方向盘的转动角度、加速踏板的踩踏深度以及制动的力度等具体操作指令，让汽车实现自动驾驶。“端到端自动驾驶”（EndtoEndAutonomousDriving）是指直接从原始传感器输...自动驾驶深度学习端到端多模态大模型中不同分辨率策略研究与原生分辨率的有效性评估
原创目前多模态在图像分辨率输入上的方法主要有以下几种：1.上采样方法：通过提升位置编码的分辨率，整合多尺度图像表征。代表：QwenVL、S²extension，通过扩展视觉特征的分辨率范围适配高分辨率输入。2.基于裁剪的方法围绕图像的预处理，包括归一化、缩放、裁剪、根据宽高比动态处理等操作如下图：预设一个默认分辨率，称之为tile，随后将图片切分成子图，每个子图的shape与tile一致，再在batch维度做拼接。tiling还会将原图也res...多模态多模态大模型图像分辨率图像、视频、音频多模态大模型中长上下文token压缩方法综述
原创多模态大模型MLLMs能够处理高分辨率图像、长视频序列和冗长音频输入等复杂上下文，但自注意力机制的二次复杂度使得大量输入token带来了巨大的计算和内存需求。如下图，上：图像、视频和音频数据类型可以在其表示维度上进行扩展，从而导致token数量的相应增加。下：表现最佳的多模态大模型无法满足现实世界的需求，因为多模态输入（尤其是视频）的token数量远远超过文本，并且大多数视觉token是冗余的。因此token压缩对于解决这...多模态大模型MLLMs小心！提示词的陷阱正让AI偏离正轨
原创 社区头条模糊指令或缺失关键约束会使AI误解意图，导致输出偏离预期。需通过精准角色设定、任务拆解和背景补充来优化提示词设计，确保模型聚焦核心任务并减少幻觉。因此，有效提示工程是引导AI生成可靠内容的关键。简介我已经一直在努力提高我的提示词技巧，这是迄今为止我学到的最重要的一课：你与人工智能对话的方式可能会让它朝着不利于你答案质量的方向发展。这种影响可能比你想象的要大得多（当然，比我意识到的要大得多）。在本文...提示词人工智能AIGemma-3n深度解析
在大模型领域快速发展的今天，经常面临一个艰难选择：要么选择小而快的模型，牺牲质量；要么选择大而准确的模型，但需要强大的GPU支持。谷歌最新推出的Gemma3n模型，试图彻底改变这一规则。Gemma3n不仅仅是紧凑型模型——它代表了AI架构设计的全新思路。这个仅需23GB显存就能运行的模型，却包含了多项革命性的技术创新，为边缘设备上的AI应用开辟了全新的可能性。1.核心突破：Matformer架构的创新设计要理解Gemma3n的创新之处，...Gemma-3nPLE缓存关于在智能体开发中的记忆功能——记忆的本质其实就是把对话内容保存下来，然后带入到每次对话的上下文中
原创“大模型是无状态的，而记忆的本质只是把对话记录放到对话上下文中。”在大模型应用中，记忆是一个很重要的功能模块，特别是在对话场景中，记忆能够让大模型“记住”你的对话场景和上下文。因为大模型本身是无状态的，因此对模型来说每次对话都是一次全新的对话，大模型不知道你之前说了什么；因此，大模型就像一个拥有健忘症的人。但在实际开发过程中，特别是使用一些开发框架之后，我们很多人都被记忆模块开发给带偏了，甚至...智能体智能体开发大模型大模型应用GenBI：生成式商业智能
原创 热门内容榜 • 最近上榜传统的商业智能（BI）工具虽然功能强大，但往往需要专业的技术专长、大量的培训投入以及可观的时间成本才能产生有意义的结果。生成式商业智能（GenBI）应运而生——这是一种革命性的方法，从根本上改变企业与其信息资产交互的方式。小编记得在很早之前推荐了一款基于LLM的分析工具，它也算是生成式的分支。虽然本次推荐的GenBI标榜开源，但是在一些功能方面在社区版还是受限。但是社区版的理念给未来的生成式的商业智能提供了...GenBI工具智能
