AI.x社区

​一、核心命题训练“机器人GPT”式通用机器人基础模型的关键瓶颈在于“机器人数据鸿沟”：现有数据集规模远低于数万亿token，且缺乏多样性（跨环境、物体、任务、光照）。要实现2万亿token目标，传统单机采集需数万年，但通过组合现实机器人集群、模拟数据和人类视频数据，可在几年内接近目标。这需数十亿美元级投资，但2025年进展（如NVIDIA的ProjectGR00T更新和SkildAI的通用机器人脑）显示技术路径日益成熟，凸显合成数据和...

Enfabrica，一家专注于高性能网络芯片的公司，推出了其弹性内存网络系统（ElasticMemoryFabricSystem，EMFASYS）。该系统通过整合其3.2TbpsACFSSuperNIC与基于CXL的DDR5内存，为AI集群提供灵活的高性能内存池，有望改变数据中心管理生成式AI内存的方式。AI推理中的内存瓶颈生成式AI是迄今为止最复杂的应用之一，其依赖复杂的计算处理海量数据集。大型语言模型（LLM）将信息分解为Token，通过神经网络传递以生成参数——这些参数...

摘要大型语言模型（LargeLanguageModels，LLM）的性能在根本上取决于推理过程中提供的上下文信息。本综述首次提出并定义了上下文工程（ContextEngineering），这一正式学科超越了简单的提示设计，涵盖了对LLM信息负载的系统性优化。我们提出了一种全面的分类框架，将上下文工程分解为基础组件和集成这些组件的复杂系统实现。首先，我们考察了基础组件：（1）上下文检索与生成（ContextRetrievalandGeneration），包括基于提示的...

1.关于AI的潜力与风险“我们当然希望这些AI系统能够带来它们所承诺的一切，比如找到新的治病方法、新的能源形式，做出很多对整个人类有巨大帮助的事。但同时也确实存在一些担忧，比如如果最早的AI是在错误的价值观引导下开发的，或者在没有安全保障的情况下建成的，那可能会带来很严重的问题。”2.关于AGI的定义和发展节奏“我们一直把AGI理解为一种能够具备人类所有核心认知能力的系统。我们之所以以人类大脑为参照，是因为人...

​概述IT高管们明白投资AI项目及其支持基础设施的必要性。根据IDC的研究，技术领导者预计在未来两年内，整体AI预算和专项GenAI预算将翻倍。然而，预算并非无限，且如前所述，AI项目的成功率相当低。因此，组织的最高层级正密切监控着支出与成果。根据报告，35.1%的受访者表示，在未来18个月内，AI赋能的能力将对其团队的数据管理效率和效能产生最大影响。然而，受访者也指出，数据管理是使用GenAI的最大障碍之一。为支持关键工...

对许多从事高性能计算（HPC）的人而言，工作流程大致如此：科学首先用微分方程刻画世界；只要解出或近似这些方程，就能追踪模型随时间的演化——天气预报便是典型例子。而在量子力学里，积分微积分则被用来预测原子与分子的能级。所有这些方法的核心都是基于理论或第一性原理（基本物理规则）的模型，这些模型反映了自然界的行为方式。最终的仲裁者当然是自然，而模型根据各种因素提供不同程度的准确性。有些模型表现出色，通常...

OpenAI正通过其Stargate项目重塑AI格局，这是一项与Oracle和SoftBank合作的宏大计划，在美国德克萨斯州阿比林（Abilene,Texas）建设全球最大的单一数据中心。这一占地900英亩的庞然大物已消耗300兆瓦（MW）电力，远超埃隆·马斯克（ElonMusk）旗下xAI的Colossus——一座拥有20万个GPU、功率250兆瓦（MW）的设施。OpenAI计划到2026年中将阿比林数据中心的功率提升至创纪录的1.2吉瓦（GW），并获得高达5000亿美元的四年投资以及白...

谷歌近期在AI领域迈出重要一步。2025年5月，OpenAI——ChatGPT的开发公司及微软的重要合作伙伴——与GoogleCloud达成协议，租用其TensorProcessingUnit（TPU），为AI硬件市场带来显著影响。这不仅是一项云服务合作，更是一次战略调整，挑战了Nvidia在GPU领域的领先地位，凸显了微软的资源瓶颈，并巩固了谷歌定制芯片的市场竞争力。OpenAI的战略选择：为何转向谷歌？OpenAI业务增长迅速，据路透社报道，截至2025年6月，其年化收...

来源：https:newsletter.maartengrootendorst.compavisualguidetomixtureofexperts如您关注最新发布的大型语言模型（LLM），可能会频繁在标题中看到“MoE”这个词。那么，“MoE”究竟是什么？为何众多LLM都开始采用它呢？在这份图解中，我们将通过50多张可视化图，详细探索这个重要组件——混合专家模型（MixtureofExperts,MoE）！在这份图解中，我们将深入探讨MoE的两个主要组成部分，即专家（Experts）和路由器（Router），及...

​核心观点1.大语言模型推理的定义常规观点：大语言模型（LLM）的推理被视为类似人类的高级能力，定义模糊，常引发争论。Zhou的观点：推理争论因缺乏明确定义而无意义；Zhou将推理定义为输入与输出之间的中间Token（推理步骤），仅是模型输出的可预测行为，而非神秘过程。2.预训练模型的推理能力常规观点：预训练模型需通过思维链（CoT）提示或微调才能具备推理能力。Zhou的观点：预训练模型已具备推理能力，推理路径存在于输出...

​摘要本文批判性地区分了人工智能代理（AIAgents）与代理式人工智能（AgenticAI），提出了结构化的概念分类、应用映射和挑战分析，以阐明二者在设计理念和能力上的差异。本文首先概述了搜索策略和基础定义，将AI代理描述为由大型语言模型（LLM）和大型图像模型（LIM）驱动的模块化系统，专注于狭窄、特定任务的自动化。生成式人工智能（GenerativeAI）被定位为前驱，而AI代理通过工具集成、提示工程和推理增强得以发展。相比之...

光子技术（Photonics）在数据中心AI加速中扮演着日益重要的角色。光学组件的全球市场规模已相当可观，去年收入达170亿美元。历史上，电信领域（如海底光缆和光纤到户）主导了需求。然而，如今数据通信领域，尤其是AI驱动的数据中心，已占据市场超60%的份额。这一转变正在加速光学技术的增长。为匹配AI计算集群（包括GPU和定制加速器在内的xPU）不断提升的性能，光学传输速率正迅速提高。图1：光学组件市场历史与预测。来源：OMD...

什么是AI代理？AI代理是一种软件组件，具备代表用户或系统自主执行任务的能力。用户可将多个代理整合为系统，以协调复杂的工作流程、协同管理各代理间的活动、运用逻辑推理解决复杂问题，并评估用户查询的响应。如果你曾与客户服务聊天机器人互动，或要求生成式AI模型创作一首十四行诗，那么你已经接触到AI代理的基础形式。若你察觉自ChatGPT推动生成式AI成为主流以来，其性能显著提升，你的观察并无偏差。尽管AI代理的概念已存...

​MinIOMinIOAIStor与ModelContextProtocol（MCP）Server应用的AI能力自然语言处理（NLP）：支持与主流大语言模型（LLMs）如AnthropicClaude或OpenAIGPT集成，用户可通过自然语言进行意图驱动的查询（如：“FindunclassifiedimagesinbucketX”），无需编写结构化命令，从而实现对存储系统的类对话式交互。自动元数据标注：借助MCPServer的askobject功能，通过AI模型自动提取和分类非结构化数据（如图像元数据），可能基于嵌入式...

​标题：UBMesh:aHierarchicallyLocalizednDFullMeshDatacenterNetworkArchitecture作者：HengLiao,BingyangLiu,XianpingChen,ZhigangGuo,ChuanningCheng,JianbingWang,XiangyuChen,PengDong,RuiMeng,WenjieLiu,ZheZhou,ZiyangZhang,YuhangGai,CunleQian,YiXiong,ZhongwuCheng,JingXia,YuliMa,XiChen,WenhuaDu,ShizhongXiao,ChungangLi,YongQin,LiudongXiong,ZhouYu,LvChen,LeiChen,BuyunWang,PeiWu,JunenGao,XiaochuLi,JianHe,...

​题目：FrontiersofAIandComputing:AConversationWithYannLeCunandBillDally谈话人：BillDally,ChiefScientistandSVPofResearch,NVIDIAYannLeCun,ChiefAIScientistatMeta,ProfessoratNewYorkUniversity时间：March2025(GTC2025)核心观点1.AI发展方向BillDallyAI在过去十年取得显著进展，尤其得益于计算能力的提升，如GPU性能从Kepler到Blackwell增长5000至10000倍。AI未来需关注训练与推理的权衡，强大模型需更多训练资源，较...

​核心观点1.HPCAI市场的快速增长与不确定性并存2024年HPCAI市场展现出强劲增长势头，超大规模AI基础设施投资翻倍，ElCapitan等超算项目的突破标志技术进步。然而，AI热潮可能对传统HPC构成挤压风险，同时存在泡沫破裂的担忧。2.超大规模AI主导市场，传统HPC面临转型压力超大规模AI市场预计从2022年的约5万单位增长至2028年的25万单位，远超本地部署HPCAI（2028年约5万单位），显示其主导地位。云化趋势可能压缩本地HPCAI市场，...

预计到2028年，AI的应用将促使企业数据存储需求呈现指数级增长态势。根据我们于2024年11月开展的一项调查显示，在主要依赖云存储管理AI数据的基础设施采购决策者中，61%的受访者预计其存储需求到2028年将至少实现翻番。驱动这一需求增长的关键因素包括：数据保留周期的显著延长（从6个月延长至永久保存）；73%的受访者表示，他们采用了每日或每周一次的大型语言模型（LLM）检查点机制80%的受访者认为数据多副本对于AI数据管理“...

人们——此处特指“华尔街”及个人投资者——时常怀有非理性的预期。这一现象正发生在仍被我们称为Google的公司身上，毕竟Alphabet仅为一家控股公司，主要持有Google的股份。昨晚市场收盘后，Google携手AMD公布了2024年第四季度的财务业绩，但华尔街对这两家公司合理增长及盈利状况并不买账。并非所有公司都能如NVIDIA在过去一年半中所享有的那般财务表现，即便身为NVIDIA的强大合作伙伴，Google亦是如此。（Google有自研的TPU...

​随着各行业企业为2025年的AI投资和战略布局做准备，我们总结了企业在未来一年的核心关注点：基础设施将成为最紧迫的投资领域，企业将重点构建AI代理（AIagents）和AI系统。企业将聚焦于数据优势（dataadvantage），以通过AI获取竞争优势。AI培训将致力于推动员工行为变革，促进AI的广泛采用，并构建“人类参与”流程（humanintheloopprocesses）。AI将继续成为2025年每位业务领导者战略计划的核心。根据最新调查显示，70%的企...