AI.x社区
- 登录/注册
默认
发布时间
热度
原创
精华
循环网络能否提升推理能力？分层推理模型已经问世！
原创
社区头条通用人工智能（AGI）作为人工智能领域的核心目标，已被学界与产业界广泛探讨多年。然而，当前主流的大型语言模型（LLMs）即便在性能上表现突出，但在解决复杂推理任务时仍存在显著局限，远未达到AGI所要求的自主推理与问题解决能力。此类复杂任务往往需要多维度的模式识别、抽象知识生成，以及迭代式的推理能力优化——即便对人类而言，也需投入大量时间与精力方可完成。在此背景下，一种名为“分层推理模型”（HierarchicalRea...通用人工智能AGI大型语言模型边缘生成式AI：在三重约束下寻求可部署的智能
核心观点核心论点：生成式AI正经历从云端向边缘的根本性范式转移。这一战略转型由对低延迟、高隐私、强可靠性及可持续性的迫切需求所驱动，而这些恰是传统云中心化模型的固有瓶颈。然而，将AI部署于边缘的核心挑战，在于前沿大模型巨大的资源消耗与边缘设备严苛的资源限制之间的尖锐矛盾。为系统性地剖析并应对这一挑战，本文提出了一个核心分析框架——“数据模型计算”（DataModelCompute,DMC）交互三角，它定义了边缘AI必须...边缘生成式AI模型重构Jensen定律：买更多、赚更多与AI工厂经济学
精华核心观点一、新Jensen定律AI工厂经济学定义：在一个电力受限且需求弹性的AI工厂中，任何能提升“每瓦性能”与“系统利用率”的增量投资，都将使可商业化的产出（Token吞吐量）增速，超过总成本的增速。两大商业成果（飞轮效应）：1.买得越多，赚得越多(BuyMore,EarnMore)：通过提升总产出实现收入增长。2.买得越多，省得越多(BuyMore,SaveMore)：通过提升效率降低单位生产成本。二、定律的数学基石与成立前提AI工厂的财务模型：...Jensen定律AINVIDIA谷歌放大招！EmbeddingGemma 免费商用：200MB 内存搞定 100 种语言 RAG，性能翻倍
在当今数字化时代，人工智能技术正以前所未有的速度发展，其中文本嵌入模型作为自然语言处理领域的核心技术之一，扮演着至关重要的角色。谷歌作为人工智能领域的领军者，近期开源了一款名为EmbeddingGemma的文本嵌入模型，它专为移动端等日常设备设计，具有轻量化、高性能、多语言支持等诸多优势，有望在众多应用场景中大放异彩。一、项目概述EmbeddingGemma是一款基于Gemma3架构的3.08亿参数多语言文本嵌入模型，专为在手机、...谷歌RAG工具Apertus：瑞士首个开源大模型，多语言支持，合规训练，高效性能
社区头条在人工智能领域，开源大模型的出现为全球开发者和研究人员带来了新的机遇。瑞士近日正式推出了其首个完全开源的大语言模型——Apertus。这一模型由瑞士联邦理工学院（EPFL）、苏黎世联邦理工学院（ETHZurich）和瑞士国家超级计算中心（CSCS）联合研发，旨在推动透明、开放且合规的AI发展。。一、项目概述Apertus是瑞士首个大规模开放的大型语言模型（LLM），具有多语言处理能力，覆盖了超过1000种语言，其中40%的数据来自非英语...开源大模型LLMAI搜索时代，你的品牌如何在答案中“C位出道”
引言：一场悄无声息的流量革命你是否发现，自己使用搜索引擎的方式正在改变？过去，我们输入关键词，然后在一长串蓝色链接中“淘宝”，点击、比较、再返回。而现在，我们越来越习惯直接提问，然后从搜索框顶部的AI对话中，直接获得一个看起来完整、权威的答案。“帮我推荐一款适合油性皮肤的洗面奶”、“总结一下最近的中美芯片政策”、“规划一条五天的云南旅游路线”……当我们为AI的便捷而赞叹时，一场深刻的流量革命正在发...AI优化LLM拆解大模型黑箱，Anthropic的“AI神经科学”带来了什么？
谈及大模型，国内的竞争格局日新月异，异常激烈。几乎每周我们都能看到新的模型发布、开源或迭代，从技术榜单到应用市场，处处都是国产模型竞相绽放的身影，整个行业呈现出一派生机勃勃的景象。这让人不禁思考一个现象，中美在AI路线上似乎正走向不同的分支。美国顶尖的AI公司倾向于将核心技术闭源，而国内的主流厂商则不约而同地选择了开源，大家开放共享，技术快速迭代，整个生态繁荣发展。但无论路线如何，所有从业者都面临...AnthropicAI神经科学一文看懂Agent下半场， Agent Infra 成为新的护城河！
前阵子，智谱AutoGLM还是挺刷屏的，它的核心理念是，给每个人配一个云端分身，7x24小时的帮大家干活今天想给家人们详细挖掘一下AgentInfra，随着模型的Agent能力越来越强，infra也变得越来越重要了！为什么AIAgent需要新的AIinfra？过去，我们谈论Agent，只讲他的大脑。因为大脑负责思考，工具负责执行。但是，一个越来越不容忽视的组件是，Agent的身体。因为Agent都存在一个致命缺陷：它们在你的个人电脑上运行。这意味着：抢...AgentUI布局AI infra红杉资本重磅报告：AI比工业革命更颠覆，10万亿美元机遇等你来掘！
你是否曾想象过，某天你的私人AI助理不仅能帮你规划一整天的行程，还能替你处理那些繁琐的邮件往来，甚至帮你砍价购物，而你只需要说一句“搞定它”？等等，这听起来是不是有点像科幻电影？别急，我最近在研读一份来自红杉资本的内部资料时发现，这样的未来可能比我们想象的要近得多，而且，它所蕴含的经济潜力，甚至可能比蒸汽机和流水线带来的工业革命还要宏大！这份资料揭示了人工智能正在开启一场“认知革命”，它不仅仅是...AI红杉资本智能体牛津+上海 AI 实验室联合全球15+顶校合著Agentic RL综述：讲透智能体强化学习范式革命
你有没有过这样的经历？让AI帮你写一篇行业报告，它倒是很快凑出了几千字，但里面的数据还是2022年的；让它改，它只会在句子里加几个“综上所述”，不会自己去查最新资料；甚至让它帮你订一张周末的高铁票，它能写出订票步骤，却不会真的打开12306操作——这时候你可能会吐槽：AI啥时候能像个“真助理”，主动把事办明白？最近，牛津大学、新加坡国立大学、帝国理工、上海AI实验室、UCL等机构的研究员们，联合发布了一篇名为《T...AI智能体Agentic RLClaude记忆系统逆向研究！与ChatGPT完全相反！网友：放弃广告了？Claude深夜祭出记忆选项，隐身聊天
原创 社区头条编辑云昭出品51CTO技术栈（微信号：blog51cto）上一篇文章中，小编分享了一位狠人逆向研究了OpenAI的ChatGPT底层记忆机制。它的记忆系统主要分为四个板块：交互元数据、最近会话内容、模型设定上下文、用户知识记忆。。正是基于这样的设计，才会让ChatGPT充满了十足的留人能力。那么，另一大头部的AI助手Claude又是怎样设计自身的记忆系统的呢？昨天，Claude的记忆系统也被逆向工程了一波，这位狠人的出的结论是：Claude与ChatG...ClaudeChatGPT隐身聊天阿里重磅开源Qwen3-Next！破局AI算力瓶颈，训练成本暴降
原创 社区头条阿里通义团队开源Qwen3Next模型，采用创新MoE架构实现训练成本暴降90%，长文本推理速度提升10倍，突破AI算力成本瓶颈。 今天凌晨，阿里通义团队发布了下一代基础模型架构Qwen3Next，新架构采用高稀疏度MoE设计和混合注意力机制，成功将训练成本降低90%以上，同时实现长文本推理吞吐量10倍的提升。 团队认为ContextLengthScaling和TotalParameterScaling是未来大模型发展的两大趋势，为进一步提升模型在长上下文和大规...人工智能Qwen3-Next模型架构算家云租算力，到算家云从MoE到256K上下文：Qwen3-Max-Preview的技术架构解读
社区头条2025年9月5日，中国人工智能领域迎来了一个里程碑式的事件。阿里巴巴通义千问团队正式发布了其首个参数量超过一万亿的旗舰级大型语言模型——Qwen3MaxPreview。这一消息迅速在全球技术社区引发热议，它不仅代表了中国AI技术在超大规模模型领域的重大突破，更引发了一个深刻的行业叩问：这是否意味着，中国AI的“GPT4时刻”已经到来？要回答这个问题，我们不能仅仅停留在参数规模的震撼上，而需要深入剖析这款模型在技术能力、市...Qwen3万亿参数模型MaaS平台AI技术创新重磅发布！LangChain 1.0 Alpha 来了，Agent 终于统一了！
原创 社区头条LangChain自推出以来迅速成为开发者构建LLM驱动应用的重要框架之一，支持多种链（chains）、代理（agents）、工具调用、向量检索、模型接口等功能。其生态不断壮大，但也因模式多样、抽象纷繁导致开发者面对不同“agent模式”时感到困惑。为提升一致性、可维护性与企业级稳定性，LangChain在2025年9月推出了v1.0.0Alpha，与LangGraph一起迈入1.x版本演进。为什么要推出v1.0？企业信心：1.0版本象征着更加稳定、信赖，降低企业采...LangChainAgentLLM狠人研究公开！ChatGPT底层记忆系统终于被逆向了！没有RAG！用户设备信息、用户知识记忆是新的研究热点！
原创 社区头条编辑云昭出品51CTO技术栈（微信号：blog51cto）ChatGPT的记忆系统为什么做得如此有魔性？现在终于有人研究出来了！前天，小编刷到了一篇狠人逆向研究ChatGPT底层记忆架构的文章，非常精彩。图片这篇文章指出，ChatGPT的记忆系统并没有采用RAG、而是粗暴地在系统提示中做足了巧妙的设计工作。“最终起决定作用的不是巧妙的工程技巧，而是更强的模型和更多算力。”而正是这些系统提示的设计，暴露了ChatGPT底层究竟存储了用户哪些...ChatGPTRAGOpenAI2025 年大语言模型架构演进：DeepSeek V3、OLMo 2、Gemma 3 与 Mistral 3.1 核心技术剖析
原创 社区头条编者按：在Transformer架构诞生八年之际，我们是否真的见证了根本性的突破，还是只是在原有设计上不断打磨？今天我们为大家带来的这篇文章，作者的核心观点是：尽管大语言模型在技术细节上持续优化，其核心架构仍保持延续，真正的创新更多体现在效率提升与工程实现上。文章系统梳理了2025年多个主流开源模型的架构演进，重点分析了DeepSeekV3R1的多头潜在注意力（MLA）与混合专家模型（MoE）、OLMo2的归一化层放置策略与QK归一...LLMAIREFRAG：基于块压缩的RAG解码优化
社区头条Meta发布的REFRAG(REFRAG:RethinkingRAGbasedDecoding)在解码时将大部分检索到的token替换为预计算的块嵌入，然后选择性地只扩展少数重要的块。这利用了RAG提示中的块对角注意力模式来减少延迟和内存，同时在RAG、多轮对话和长文档摘要中保持准确性。这是一种用于RAG系统的即插即用解码策略，能够大幅降低延迟和内存使用。REFRAG实现了高达30.85倍的TTFT（首字符生成时间）加速。图片核心思想将检索到的上下文分块，用轻量级编...REFRAGRAG解码优化vLLM深度解析：高吞吐量大语言模型推理系统的内部架构
社区头条博客文章(InsidevLLM:AnatomyofaHighThroughputLLMInferenceSystem)深度解析了vLLM的内部架构，我简单整理了一下LLM引擎和引擎核心LLM引擎是vLLM的基础构建块。单独而言，它已经能够实现高吞吐量推理——但仅限于离线设置。使用以下离线推理代码片段作为示例：fromvllmimportLLM,SamplingParamsprompts["Hello,mynameis","ThepresidentoftheUnitedStatesis",]samplingparamsSamplingParams(temperature0.8,topp0.95)defmain():l...vLLM语言模型内部架构重塑AI应用可靠性：从依赖模型到“模型+工具”的架构演进
社区头条在人工智能生成内容（AIGC）应用的开发中，“幻觉”是每一个开发者都必须直面的核心挑战。这个术语，指的是大语言模型（LLM）生成了与事实不符、逻辑不通或者与用户指令相悖的内容。这不仅会损害用户体验，更可能在关键业务场景中引发严重的风险。长期以来，业界似乎存在一种隐性的期待：随着模型规模的不断增大和算法的持续优化，一个高度可靠、接近无幻觉的AI模型终将到来。然而，最新的研究和实践正让我们愈发清醒地认识到，...LLM幻觉MaaS平台工具编排Agent开发MCP协议1比特或3比特量化模型能够超越GPT-4.1或Claude-Opus-4吗？
Unsloth的动态GGUFs展示了如何将DeepSeekV3.1(671B)量化到仅1比特或3比特，并且仍能超越GPT4.5、GPT4.1和Claude4Opus等SOTA模型。关键结果1比特动态GGUF将DeepSeekV3.1从671GB→192GB(减少75%体积)，无思考模式大幅超越GPT4.1、GPT4.5和DeepSeekV303243比特DeepSeekV3.1(思考)GGUF：超越Claude4Opus20250514(思考)5比特DeepSeekV3.1(非思考)GGUF：与Claude4Opus20250514(非思考)性能相匹配其他非Unsloth的1比特和2比特量化要么...GPT-4.1DeepSeek-V3.1模型
