AI.x社区

我们可能早已习惯了“提示词工程”（PromptEngineering）。不论是写摘要、代码生成，还是会议复盘，大家都想着如何写出一个高效的提示词，让LLM做出回答。但有时候大模型回答的结果并不是尽人意。所以，最近有个新词开始频繁出现在圈内讨论中——“上下文工程”（ContextEngineering）。这个词乍一看和“提示词工程”貌似差不多，但如果你是在构建一个智能体（AIAgent）系统，特别是基于像LlamaIndex、LlamaCloud这样的工具时，...

AgenticRAG：2025年智能助手的新革命引言：从被动回答到主动思考想象一下，你问一个智能助手：“帮我研究一下最新的AI趋势。”过去，它可能只会简单地从数据库里抓取几篇文章，拼凑出答案。而现在，2025年的智能助手却能像你的私人研究员一样，主动分解问题、选择最优的数据源、交叉验证信息，甚至还能根据你的需求不断优化答案。这就是AgenticRAG（增强型检索生成）带来的革命性变化！RAG（RetrievalAugmentedGeneration）早已...

2025年世界人工智能大会（WAIC）期间，北森作为阿里云通义千问的优秀合作伙伴，携旗下两款核心AI产品亮相展会。在大会特设的展示区内，北森通过沉浸式体验和场景化演示，向全球与会者生动呈现了AI如何深度赋能企业人才管理的全流程，展现了其推动千行百业人才管理智能化升级的创新实力。世界人工智能大会（WAIC）自2018年创办以来，已成为全球人工智能领域的顶级盛会，今年更是汇聚了众多科技巨头与行业领军企业。现场不仅有微...

20年前，百货大楼的招聘员靠一支笔、一叠简历、一双"火眼金睛"筛选人才，一天面试20人便累得直不起腰；10年前，连锁超市的HR带着纸质表格跑遍全国门店招人；而现在，当零售行业的门店数量以千计、年招聘量突破数万人，传统招聘方式早已跟不上企业扩张的脚步——HR们正站在新的十字路口，一边是堆积如山的简历和无止境的面试排期，一边是企业对"精准识人"的迫切需求。幸好，AI面试官的出现，像给HR们递上了一把"AI钥匙"。它不是...

上周，Grok已成为美国、英国和新加坡等主要国家AppStore下载量最高的应用程序。虽然Grok4是一种非常出色的大语言模型（LLM），但这款聊天机器人缺少最热门的AI功能之一：视频。不过，马斯克似乎也感受到了这种“错失恐惧症”（FOMO）的影响。正因如此，他及其团队刚发布了Imagine：这是其聊天机器人中的一项基于AI的视频生成功能。它能与谷歌的Veo3或OpenAI的Sora相媲美吗？本文解答了你的所有疑问。此外，本文还将指导你了解Im...

基于大语言模型（LLM）的AI智能体正在变得越来越普遍，似乎正在取代我们熟悉的“常规”对话式LLM。这些令人惊叹的能力并非轻易就能实现，需要许多组件协同工作。在这篇文章中，我们将通过64张图，探索AI智能体的架构设计、关键技术、主要组成部分、以及多智能体框架。具体包括14项关键技术：什么是LLM智能体、记忆、短期记忆、长期记忆、工具、Toolformer、模型上下文协议（MCP）、规划、推理、推理与行动、反思、多智能体协作...

尽管近年来语言模型取得了惊人进展，这一进步主要源于从面向特定任务的专用模型转向基于强大架构（如Transformer）的通用模型——这些模型能从原始数据中直接学习一切。然而，诸如分词（tokenization）之类的预处理步骤仍是构建真正端到端基础模型的障碍。「Mamba」作者之一的AlbertGu最新Paper又提出一系列新技术，实现了一种动态分块机制（dynamicchunking）：它能自动学习内容与上下文相关的切分策略，并与模型的其余部分联...

介绍了在Windows系统中通过WSL2运行大模型推理框架vLLM。vLLM具备高吞吐、低延迟、节省显存等优势，适配多种模型与硬件平台。讲解了推理代码示例，与OpenAIAPI接口兼容的部署方式。1.vLLM的核心优势2.vLLM对Windows的支持3.安装vLLM前的准备：Nvidia显卡驱动和WSL5.新建Python虚拟环境6.安装GPU版PyTorch6.1确定CUDAToolkit版本6.2选择与以确认CUDA版本匹配的Pytorch9.安装vLLM8.使用vLLM离线批量推理8.1下载模型8.2代码示例8.3...

本文介绍了如何使用Unsloth框架微调大语言模型，以《伤寒论》数据集为例训练一个中医专家模型。Unsloth显著降低了微调的资源需求。文章涵盖了从环境配置、模型选择、数据准备到训练部署的完整流程，为垂直领域模型微调提供了实用参考。1.关于Unsloth2.Unsloth的核心优势3.使用要求4.安装Unsloth5.选择模型6.数据集准备7.开始微调7.1引入依赖7.2加载模型7.3加载数据集7.4定义LoRA7.5使用SFTTrainer进行训练7.6模型保存7.7训练过...

在当前大模型（LLM）应用如火如荼的时代，无论是构建智能客服、实时搜索助手，还是驱动创意内容生成，大模型的推理速度都已不再是可有可无的“奢侈品”，而是直接决定用户体验和运营成本的关键。我们常常会发现，即便是一个在训练阶段表现优异的大模型，部署到生产环境后，其理论性能与实际表现之间却存在着巨大的鸿沟。这种差距可能表现为：请求延迟时高时低，从毫秒级飙升到数十秒；系统吞吐量不稳定，并发处理能力难以预测；...

2025世界人工智能大会（WAIC）世博展览馆内，超聚变展台前人头攒动，其展示的AI落地全栈解决方案及上百个AI应用场景吸引了众多参观者驻足观看。这是今年WAIC大会火爆的一角，更是当下AI应用爆发的一个缩影。当人工智能发展到多模态与智能体阶段时，各种智能体不断涌现，它们一步步改变着企业的场景、流程、组织架构乃至业务模式，由此触发城企数智化转型的一场深层次变革。与此同时，智能体的爆发也揭示另一个残酷现实：广大城...

本文来自于”湘江数评“公众号，作者老杨，经作者本人同意授权后发布当前AI技术的魅力可以说让无数老板“竞折腰”，无论是在各种论坛大会还是在某某自媒体平台已经把AI近乎神话，AI技术的无所不能可以说是魔幻中带着玄幻，似乎不做AI立马就会被市场淘汰，做了AI立马就会“逆天改命”一般，于是引发了老板们的集体焦虑与冲动，但大半年过去了，AI在传统企业中成功落地的场景寥寥无几，只有所谓的PPT里面的“最佳案例”，那么AI在...

从算力到存力，闪存的成本革命已持续多年，在与AI算力暴增交织而成的技术海啸中，闪存普惠的诉求被推向了市场至高点。过去三年来，华为存储商业市场成为公司发展最快赛道之一，在商业市场无论是收入，还是合作伙伴和客户的数量，都取得了超过30%的增长。那么，华为在闪存普惠中做对了什么？近日，华为发布了商业市场极简全闪数据中心Pro+，对上一次极简全闪数据中心进行了一次全方位、全维度的升级。值得关注的是，新品发布会从...

痛点：大模型性能评估的"黑盒困境"想象一下这样的场景：你刚刚部署了一个32B参数的DeepSeekR1模型，信心满满地准备上线服务。但突然有人问你："这个模型能承受多大的并发？延迟如何？每秒能处理多少tokens？"面对这些问题，很多开发者只能凭经验猜测，或者写一些简单的脚本测试。这就像是驾驶一辆没有仪表盘的汽车——你永远不知道自己跑得有多快，油还能跑多远。传统压测方案的局限性：•🚫指标单一：只能测基本的QPS，缺乏细...

在大模型能力日益强大的今天，AI“会不会写代码”已不再是问题，真正决定其能否成为开发者得力助手的关键，在于它“能不能理解上下文”。技术术语的更迭，不仅是语言表达的更替，更代表着思维范式的转变。上下文工程这一新术语，之所以能引起业内共鸣，折射的是智能体复杂性的演化和应对策略的转变，是对现实中算法和工程挑战的一种集体回应，尤其是在垂直领域的智能体。现有的大模型已经非常智能。但即便是最聪明的人，如果不...

最近，AICoding的发展可谓是如火箭般神速，月之暗面和通义千问争相开源发布KimiK2和Qwen3大模型，能力更强，成本更低，在编程场景中都有着非常优秀的表现，尤其是面对复杂编程任务的场景，其能力更令人惊叹，又一次向世界证明了国产开源模型走在技术的最前沿！与此同时，知名AI编程工具Cursor则不断在搞事情，毫无预兆和通知就对中国大陆用户进行了模型断供。当用户选择多款国外先进模型时，就会收到Cursor“模型供应商不能为您...

智能时代，数据洪流滚滚而来。当“东数西算”等工程让算力网络全面覆盖数字中国之际，存力便成为数据要素自由流动和AI创新的关键。唯有实现存算协同发展，方能孕育出真正的AI生产力。无独有偶，在2025世界人工智能大会（WAIC）上，中国移动与曙光存储联合启动智能存力调度平台算力中心全局统一文件存储系统。该平台以先进存力中心“中枢神经”的定位，深度融合异构资源调度与AI应用场景需求，为先进存力中心高效运营及AI技术落...

Part.1RAG这么火，你会用吗？自从大模型技术走向市场以来，“幻觉”现象总是对用户造成困扰，而RAG（RetrievalAugmentedGeneration，检索增强生成）技术正在成为解决这一难题的利器。国内众多科技大厂在实践RAG技术时都取得了阶段性的成果。蚂蚁集团采用RAG技术，通过知识库分层构建、复杂文档处理、混合搜索策略和总结模型优化，答案获取效率提高约20%。阿里云通过外挂知识库提供可靠知识，优化知识检索与答案生成流程，成功化...

从Gemini2.5Pro的百万级窗口，到Llama4Scout震撼的千万级Token，模型的上下文（Context）竞赛似乎永无止境。这很容易让人产生一种错觉：「管他呢，把所有资料都扔进去就行了」。但AndrejKarpathy一语道破天机：构建LLM应用的艺术，在于学会「恰到好处地填充上下文窗口」。如果把上下文当成一个杂物抽屉，那你得到的也只会是垃圾。一个臃肿、混乱的上下文不仅会拉低模型表现，甚至会导致它「精神错乱」，出现以下几种典型「翻车...

谷歌DeepMind创始人DemisHassabis对话LexFridman，描绘AI解码自然、创造新世界、开启人类后稀缺时代的壮丽未来。这是一场顶尖人才的思想碰撞，预示着文明的深刻跃迁。再看一遍，这里是根据对话内容提炼的30条核心洞察。关于AI与现实本质核心猜想：自然界是可学习的。任何经由演化或物理过程形成的自然模式（从蛋白质到行星轨道），都因其内在的非随机结构，而可以被经典算法高效学习和建模。PvsNP是一个物理问题。如果宇宙是一...