AI.x社区

核心论点：算力是驱动AI进步的根本引擎，其指数级扩张将持续至2030年报告的基石论点是：AI能力的飞跃式发展，其最核心、最根本的驱动力是计算规模（Scaling）的持续扩张。算法和数据的创新固然重要，但它们更多是服务于、并得益于更大规模的计算。通过推断当前算力及相关要素的指数级增长趋势，我们可以相当可靠地预测2030年AI的技术形态和能力边界。一、趋势预测：通往2030年的“扩张之路”及其资源需求基于当前趋势推断，AI的...

CXL3.X技术正从理论讨论转向实际部署，业界对其必要性和潜力的关注日益增加。它特别适合作为构建大规模实用计算系统的标准，因为它通过内存共享实现更高效的资源利用，并通过支持多级交换和基于端口路由（PortBasedRouting，PBR）的互连架构来提升可扩展性和灵活性。为了探索CXL3.x技术的实际应用领域，CXL成员公司Panmnesia的团队在我们的CXL3.x全系统框架上运行了各种工作负载。如上图所示，Panmnesia的CXL3.x全系统框架包括C...

核心论点合成数据是双刃剑，其价值在于“策略性混合”而非“纯粹替代”这项研究通过超过10万GPU小时和1000个模型的超大规模实验，系统性地揭示了合成数据在大型语言模型（LLM）预训练阶段的真实作用。其根本结论是：合成数据并非万能解药，盲目使用甚至有害；但若作为“催化剂”与高质量的真实数据策略性地混合，则能大幅提升训练效率与模型潜力。关键发现与工程实践指南1.“混合”是王道：特定配比可将训练速度提升510倍纯合成...

核心观点核心论点：生成式AI正经历从云端向边缘的根本性范式转移。这一战略转型由对低延迟、高隐私、强可靠性及可持续性的迫切需求所驱动，而这些恰是传统云中心化模型的固有瓶颈。然而，将AI部署于边缘的核心挑战，在于前沿大模型巨大的资源消耗与边缘设备严苛的资源限制之间的尖锐矛盾。为系统性地剖析并应对这一挑战，本文提出了一个核心分析框架——“数据模型计算”（DataModelCompute,DMC）交互三角，它定义了边缘AI必须...

核心观点一、新Jensen定律AI工厂经济学定义：在一个电力受限且需求弹性的AI工厂中，任何能提升“每瓦性能”与“系统利用率”的增量投资，都将使可商业化的产出（Token吞吐量）增速，超过总成本的增速。两大商业成果（飞轮效应）：1.买得越多，赚得越多(BuyMore,EarnMore)：通过提升总产出实现收入增长。2.买得越多，省得越多(BuyMore,SaveMore)：通过提升效率降低单位生产成本。二、定律的数学基石与成立前提AI工厂的财务模型：...

​一、核心命题训练“机器人GPT”式通用机器人基础模型的关键瓶颈在于“机器人数据鸿沟”：现有数据集规模远低于数万亿token，且缺乏多样性（跨环境、物体、任务、光照）。要实现2万亿token目标，传统单机采集需数万年，但通过组合现实机器人集群、模拟数据和人类视频数据，可在几年内接近目标。这需数十亿美元级投资，但2025年进展（如NVIDIA的ProjectGR00T更新和SkildAI的通用机器人脑）显示技术路径日益成熟，凸显合成数据和...

Enfabrica，一家专注于高性能网络芯片的公司，推出了其弹性内存网络系统（ElasticMemoryFabricSystem，EMFASYS）。该系统通过整合其3.2TbpsACFSSuperNIC与基于CXL的DDR5内存，为AI集群提供灵活的高性能内存池，有望改变数据中心管理生成式AI内存的方式。AI推理中的内存瓶颈生成式AI是迄今为止最复杂的应用之一，其依赖复杂的计算处理海量数据集。大型语言模型（LLM）将信息分解为Token，通过神经网络传递以生成参数——这些参数...

摘要大型语言模型（LargeLanguageModels，LLM）的性能在根本上取决于推理过程中提供的上下文信息。本综述首次提出并定义了上下文工程（ContextEngineering），这一正式学科超越了简单的提示设计，涵盖了对LLM信息负载的系统性优化。我们提出了一种全面的分类框架，将上下文工程分解为基础组件和集成这些组件的复杂系统实现。首先，我们考察了基础组件：（1）上下文检索与生成（ContextRetrievalandGeneration），包括基于提示的...

1.关于AI的潜力与风险“我们当然希望这些AI系统能够带来它们所承诺的一切，比如找到新的治病方法、新的能源形式，做出很多对整个人类有巨大帮助的事。但同时也确实存在一些担忧，比如如果最早的AI是在错误的价值观引导下开发的，或者在没有安全保障的情况下建成的，那可能会带来很严重的问题。”2.关于AGI的定义和发展节奏“我们一直把AGI理解为一种能够具备人类所有核心认知能力的系统。我们之所以以人类大脑为参照，是因为人...

​概述IT高管们明白投资AI项目及其支持基础设施的必要性。根据IDC的研究，技术领导者预计在未来两年内，整体AI预算和专项GenAI预算将翻倍。然而，预算并非无限，且如前所述，AI项目的成功率相当低。因此，组织的最高层级正密切监控着支出与成果。根据报告，35.1%的受访者表示，在未来18个月内，AI赋能的能力将对其团队的数据管理效率和效能产生最大影响。然而，受访者也指出，数据管理是使用GenAI的最大障碍之一。为支持关键工...

对许多从事高性能计算（HPC）的人而言，工作流程大致如此：科学首先用微分方程刻画世界；只要解出或近似这些方程，就能追踪模型随时间的演化——天气预报便是典型例子。而在量子力学里，积分微积分则被用来预测原子与分子的能级。所有这些方法的核心都是基于理论或第一性原理（基本物理规则）的模型，这些模型反映了自然界的行为方式。最终的仲裁者当然是自然，而模型根据各种因素提供不同程度的准确性。有些模型表现出色，通常...

OpenAI正通过其Stargate项目重塑AI格局，这是一项与Oracle和SoftBank合作的宏大计划，在美国德克萨斯州阿比林（Abilene,Texas）建设全球最大的单一数据中心。这一占地900英亩的庞然大物已消耗300兆瓦（MW）电力，远超埃隆·马斯克（ElonMusk）旗下xAI的Colossus——一座拥有20万个GPU、功率250兆瓦（MW）的设施。OpenAI计划到2026年中将阿比林数据中心的功率提升至创纪录的1.2吉瓦（GW），并获得高达5000亿美元的四年投资以及白...

谷歌近期在AI领域迈出重要一步。2025年5月，OpenAI——ChatGPT的开发公司及微软的重要合作伙伴——与GoogleCloud达成协议，租用其TensorProcessingUnit（TPU），为AI硬件市场带来显著影响。这不仅是一项云服务合作，更是一次战略调整，挑战了Nvidia在GPU领域的领先地位，凸显了微软的资源瓶颈，并巩固了谷歌定制芯片的市场竞争力。OpenAI的战略选择：为何转向谷歌？OpenAI业务增长迅速，据路透社报道，截至2025年6月，其年化收...

来源：https:newsletter.maartengrootendorst.compavisualguidetomixtureofexperts如您关注最新发布的大型语言模型（LLM），可能会频繁在标题中看到“MoE”这个词。那么，“MoE”究竟是什么？为何众多LLM都开始采用它呢？在这份图解中，我们将通过50多张可视化图，详细探索这个重要组件——混合专家模型（MixtureofExperts,MoE）！在这份图解中，我们将深入探讨MoE的两个主要组成部分，即专家（Experts）和路由器（Router），及...

​核心观点1.大语言模型推理的定义常规观点：大语言模型（LLM）的推理被视为类似人类的高级能力，定义模糊，常引发争论。Zhou的观点：推理争论因缺乏明确定义而无意义；Zhou将推理定义为输入与输出之间的中间Token（推理步骤），仅是模型输出的可预测行为，而非神秘过程。2.预训练模型的推理能力常规观点：预训练模型需通过思维链（CoT）提示或微调才能具备推理能力。Zhou的观点：预训练模型已具备推理能力，推理路径存在于输出...

​摘要本文批判性地区分了人工智能代理（AIAgents）与代理式人工智能（AgenticAI），提出了结构化的概念分类、应用映射和挑战分析，以阐明二者在设计理念和能力上的差异。本文首先概述了搜索策略和基础定义，将AI代理描述为由大型语言模型（LLM）和大型图像模型（LIM）驱动的模块化系统，专注于狭窄、特定任务的自动化。生成式人工智能（GenerativeAI）被定位为前驱，而AI代理通过工具集成、提示工程和推理增强得以发展。相比之...

光子技术（Photonics）在数据中心AI加速中扮演着日益重要的角色。光学组件的全球市场规模已相当可观，去年收入达170亿美元。历史上，电信领域（如海底光缆和光纤到户）主导了需求。然而，如今数据通信领域，尤其是AI驱动的数据中心，已占据市场超60%的份额。这一转变正在加速光学技术的增长。为匹配AI计算集群（包括GPU和定制加速器在内的xPU）不断提升的性能，光学传输速率正迅速提高。图1：光学组件市场历史与预测。来源：OMD...

什么是AI代理？AI代理是一种软件组件，具备代表用户或系统自主执行任务的能力。用户可将多个代理整合为系统，以协调复杂的工作流程、协同管理各代理间的活动、运用逻辑推理解决复杂问题，并评估用户查询的响应。如果你曾与客户服务聊天机器人互动，或要求生成式AI模型创作一首十四行诗，那么你已经接触到AI代理的基础形式。若你察觉自ChatGPT推动生成式AI成为主流以来，其性能显著提升，你的观察并无偏差。尽管AI代理的概念已存...

​MinIOMinIOAIStor与ModelContextProtocol（MCP）Server应用的AI能力自然语言处理（NLP）：支持与主流大语言模型（LLMs）如AnthropicClaude或OpenAIGPT集成，用户可通过自然语言进行意图驱动的查询（如：“FindunclassifiedimagesinbucketX”），无需编写结构化命令，从而实现对存储系统的类对话式交互。自动元数据标注：借助MCPServer的askobject功能，通过AI模型自动提取和分类非结构化数据（如图像元数据），可能基于嵌入式...

​标题：UBMesh:aHierarchicallyLocalizednDFullMeshDatacenterNetworkArchitecture作者：HengLiao,BingyangLiu,XianpingChen,ZhigangGuo,ChuanningCheng,JianbingWang,XiangyuChen,PengDong,RuiMeng,WenjieLiu,ZheZhou,ZiyangZhang,YuhangGai,CunleQian,YiXiong,ZhongwuCheng,JingXia,YuliMa,XiChen,WenhuaDu,ShizhongXiao,ChungangLi,YongQin,LiudongXiong,ZhouYu,LvChen,LeiChen,BuyunWang,PeiWu,JunenGao,XiaochuLi,JianHe,...