AI.x社区
- 登录/注册
默认
发布时间
热度
原创
精华
小而美！1B模型如何通过测试时优化逆袭405B LLM？
今天分享一篇来自上海人工智能实验室、清华大学、哈尔滨工业大学和北京邮电大学联合的一篇文章，标题是：Can1BLLMSurpass405BLLMRethinkingComputeOptimalTestTimeScaling（1B的LLM能否超越405B的LLM？重新思考计算最优的测试时缩放）。这篇文章研究了大型语言模型（LLMs）在「推理阶段通过增加计算量来提高性能的测试时缩放」（TestTimeScaling,TTS）方法。作者们「系统地分析了策略模型、过程奖励模型（PRMs）和问题难度如何...LLM模型测试DeepSeek冲击下，百度的开源牌能打响吗？
编辑伊风出品51CTO技术栈（微信号：blog51cto）年初，DeepSeekR1模型的开源让这个低调的技术品牌一炮打响。随着DeepSeek应用的飞速增长，AI巨头正在集体重新审视开源模式的商业价值——这不再只是“赔本赚吆喝”的事情，而是可能带来实实在在的商业回报。DeepSeek带来的竞争压力肉眼可见，连OpenAI的Altman都罕见地改口反思，承认OpenAI在开闭源问题上“站在了历史错误的一端”。Altman甚至在X上发起了投票，询问大家OpenAI的下...DeepSeek百度开源传统RAG的局限被打破！三个轻量级智能体分工协作，如何让问答系统更精准？
原创近期，公司在AI相关项目，尤其是问答系统领域，对回答的准确率和表述质量提出了更高的要求。用户提出的问题不仅限于基础性问题，还可能涉及多样化、复杂化的场景。也就在上周五快下班的时候，项目经理向我反馈，之前的项目团队支持的某客户在使用问答系统时，除了查询私有知识库中的信息外，还会提出以下几类问题：可直接由大语言模型（LLM）回答的问题：例如通用知识或常识性问题。非知识库相关的口头表达：如“谢谢”、“再见...RAGAI人工智能MagicArticulate: 超48K海量数据革新3D动画，自回归Transformer驱动关节智能生成！
精华论文链接：https:arxiv.orgpdf2502.12135Git链接：https:chaoyuesong.github.ioMagicArticulate亮点直击首个大规模关节化基准数据集，包含超过48,000个具有高质量关节标注的模型；一种新颖的两阶段框架，有效处理骨架生成和蒙皮权重预测；实现了当前最先进的性能，并在实际动画生产流程中展现了实用性。总结速览解决的问题随着3D内容创作的快速增长，自动将静态3D模型转换为支持真实动画的可关节化版本的需求日益增加。然而，传...3D模型AI传统分块已死？Agentic Chunking拯救语义断裂，实测RAG准确率飙升40%，LLM开发者必看！
原创最近公司处理LLM项目的同事咨询了我一个问题：明明文档中多次提到同一个专有名词，RAG却总是漏掉关键信息。排查后发现，问题出在传统的分块方法上——那些相隔几页却密切相关的句子，被无情地拆散了。我给了一些通用的建议，比如使用混合检索代替单一的语义检索，基于chunk生成QA对等等。接着他又提出了一个问题，有没有通过分块技术能减少这类问题的发生？我说你也可以试试最近新提出的一种分块策略：AgenticChunking.为什么分...RAGAgenticChunking想聊聊什么是“被动收入”？揭秘它的真相与LLM的机会！
原创01、概述随着科技的飞速发展，“被动收入”已经成为许多人热议的话题。大家总希望通过一些创意的方式，创造出不需要花费大量时间和精力的收入来源。那么，什么是真正的被动收入？它是通过什么方式得以实现的？而如今，随着大型语言模型（LLMs）的兴起，我们可以利用它们开创一些全新的机会，甚至对于那些刚入门的朋友，也能轻松上手。今天就让我们来揭开被动收入的真实面纱，同时探讨一下如何利用LLMs赚取额外的收入！02、被动...大语言模型LLM人工智能AI2025年人工智能革命：七大趋势将如何重塑你的生活？
原创01、概述当ChatGPT在2022年底横空出世时，全球用户第一次真切感受到AI对话的震撼。而到了2025年的今天，这场由大型语言模型（LLM）引发的智能革命早已突破实验室的藩篱，正在重塑我们工作、生活乃至认知世界的方式。从华尔街的交易大厅到社区医院的问诊台，从电商平台的智能客服到制造车间的数字孪生，一场静默却深刻的技术变革正在每个角落上演。本文将带您穿越到2025年的智能世界，通过七大核心趋势解码LLM如何重构商业版图与...人工智能AILLM20万块H100显卡觉醒！马斯克连夜官宣Grok 3：这8个功能让程序员集体失业
原创 精华01、概述在当今这个科技飞速发展的时代，人工智能已经成为了我们生活中不可或缺的一部分。从智能家居到自动驾驶，从智能客服到医疗诊断，AI的应用无处不在。而今天，我们要聊的主角，是AI领域的一个全新突破——Grok3。02、Grok3：AI界的“超级大脑”诞生！Grok3是由埃隆·马斯克旗下的AI公司x.AI开发的最新模型。它代表了AI技术的巨大飞跃，为聊天机器人带来了前所未有的推理能力、处理速度和决策能力。Grok3拥有类似人类的思...大语言模型Grok 3AI构建一个完全本地的语音激活的实用RAG系统
原创本文将探讨如何构建一个RAG系统并使其完全由语音激活。RAG（检索增强生成）是一种将外部知识用于额外上下文以馈入到大语言模型（LLM），从而提高模型准确性和相关性的技术。这是一种比不断微调模型可靠得多的方法，可以改善生成式AI的结果。传统上，RAG系统依赖用户文本查询来搜索矢量数据库。然后将检索到的相关文档用作生成式AI的上下文输入，生成式AI负责生成文本格式的结果。然而，我们可以进一步扩展RAG系统，以便能够接受...RAG检索增强生成大语言模型Blaze RangePartitioning 算子 Native 实现全解析
原创引言：本文将全面且深入地解析BlazeRangePartitioning算子的Native实现过程。相较于原生Spark，RangePartitioning的Native实现在执行时间上达到了30%的显著下降，同时在资源开销方面节省了高达76%。这一改进大幅降低了运行成本，展现了Native实现带来的巨大优势。一、算子描述RangePartitioning是shufflepartitioning的一种分区类型。它通过根据数据的值范围将数据划分成多个分区。每个分区包含特定范围内的值，通常用于处理有...sqlspark大模型面经：SFT和RL如何影响模型的泛化或记忆能力？
原创本篇分享SFT和RL在大模型训练中起到的作用。监督微调(SFT)和强化学习(RL)都是目前大模型的基础模型后训练技术，像DeepSeekR1、kimi等的训练方法都将两种技术应用到了极致。如何去设计训练步骤（先SFT再RL，还是直接RL）都需要对SFT和RL的能力有较深刻的了解。本篇就以面经的形式，探讨SFT、RL两种不同的后训练范式在基于文本规则和视觉变体的情况下对模型记忆与泛化能力的作用。下面是一个快捷目录。一、SFT和RL分别对基座大...大模型SFTRL人工智能如何正确看待 AI 的推理能力？走出人类中心主义
原创 精华编者按：人工智能真的能“推理”吗？我们是否正在用过于狭隘的人类思维，限制了对AI推理能力的认知？我们今天为大家带来的文章，作者的观点是：AI的推理能力不应被简单地用“人类中心主义”的标准来否定。文章重点揭示了三个关键内容：推理能力的定义应更加开放，不应局限于传统人类思维模式通过多个标准化测试（如HellaSwag、WinoGrande），AI在推理任务中已展现出显著能力我们需要以更开放的心态，将AI视为一种独特的“外星智...AILLMs通过LM Studio本地私有化部署DeepSeek-R1模型，无网络也能用
打开LMStudio官网选择适合自己的操作系统，下载LMStudio安装包成功后运行LMStudio，顶部文本框输入deepseek，点击搜索模型在搜索结果中选择7B参数模型，如上图右侧提示“Noresultfound”说明官方未直接提供deepseekgguf模型文件。这时，我们需要自己到别处下载dsgguf文件，继续如下操作：打开魔搭官网，进入模型库，搜索deepseekr1选择deepseekr1gguf模型文件，根据你自己电脑的配置情况，选择大小合适的参...deepseekai私有化部署阿里重回伟大！吴泳铭财报讲话全文曝光：开发者会天然选择阿里云，发布旗舰推理模型！
原创出品51CTO技术栈（微信号：blog51cto）编辑伊风昨晚，阿里2025财年Q3财报新鲜出炉，同比增长8%，可以说成绩相当亮眼！淘天增收继续加快，阿里云增速重回加速状态，多项核心业务增速达到年内最佳。财报显示：阿里第三季度营收增速创逾一年以来最快，资本开支大增，核心业务加速增长，淘天收入增长加快，阿里云收入重回双位数增长（13%），增幅创约两年以来最大，AI相关产品收入连续六季度保持三位数增长。图片阿里绩后美股盘前拉...阿里吴泳铭AI全球首个AI CUDA工程师来了！将PyTorch原生实现提速10-100倍
精华用AI提高AI的效率，它们就能变得像人类大脑一样高效？我们的大脑只用了20瓦的能量就能完成复杂思考，而现代AI系统却需要成排的高功率GPU和惊人的电力消耗。这种差距如何缩小？日本AI初创公司SakanaAI团队提出了一个大胆的愿景：利用AI本身来优化AI。他们开发的「AICUDA工程师」是这一理念的具体实践。「AICUDA工程师」是第一个用于全自动CUDA内核发现和优化的综合智能体框架。这种方法不仅开创性地将进化计算与大型语言模型相结...AI生成代码告别800秒魔咒！硬件级STA革新视频DiT注意力，让HunyuanVideo效率提升3.5倍!
论文链接：https:arxiv.orgpdf2502.04507Git链接：https:github.comhaoailabFastVideoHuggingface：https:huggingface.coFastVideoFastHunyuan亮点直击识别并量化了最先进的视频DiT中的3D局部性和头部specialization，揭示了完整3D注意力中的大量冗余。引入了SLIDINGTILEATTENTION，一种基于分块的滑动窗口注意力机制。优化内核与FlashAttention3相比实现了最小的开销，MFU达到58.79%。STA将注意力加速超过10倍，并将端到端视频...AI生成模型王炸组合！STL-VMD二次分解 + Informer-LSTM 并行预测模型
前言传统时间序列预测模型（如ARIMA、单一LSTM）在面对多尺度特征（如长周期、短周期、噪声混杂）和非线性动态（如突变、趋势漂移）时表现受限，尤其对以下场景效果不佳：强噪声干扰：工业传感器信号中的高频噪声掩盖真实模式多季节性与趋势耦合：如电力负荷数据（日周期+周周期+节假日趋势）长期依赖与短期波动并存：如股票价格序列针对以上问题，本期提出一种基于STL+VMD二次分解，InformerLSTM的并行预测模型，该创新模型通...STLVMDLSTMDeepSeek全新注意力机制NSA发布，超快速长文训练与推理
精华DeepSeek官推发布了最新技术成果NSA：一种面向硬件且支持原生训练的稀疏注意力机制，专为超快长上下文训练与推理设计。NSA的核心组成：动态分层稀疏策略粗粒度的token压缩细粒度的token选择💡NSA针对现代硬件进行了优化设计，显著提升了推理速度，并有效降低了预训练成本——同时不损失性能。在通用基准测试、长文本任务和基于指令的推理任务中，NSA的表现均能达到甚至超越传统全注意力模型的水平。1.动态分层稀疏策略NSA的核心...DeepSeekNSA长文训练大模型在零样本面部情绪标注中的突破与应用
精华情绪识别作为人机交互中的关键一环，能够提升智能系统的反应灵敏度和人性化程度。但是传统的情绪标注方法面临着诸多挑战和局限性，人工情绪标注过程既耗时又昂贵，并且标注员可能会因个人主观性带来不同的评估标准，从而影响标注的一致性和准确性。人工标注不仅成本高且效率低下，标注员需要长时间精心标注数据，这不但要求大量人力资源，还会引入人类认知中的固有变异性和潜在偏见。情绪标注任务的主观性和细微差别增加了标注...大模型零样本LLMsLangMem 发布：任何人都能轻松构建智能体记忆！
精华今天，我们正式发布了LangMemSDK——一个帮助您的代理通过长期记忆不断学习和改进的工具库。这个SDK提供了一些工具，能够从对话中提取信息、通过更新提示词优化代理行为，并保持关于行为、事实和事件的长期记忆。您可以将LangMem的核心API与任何存储系统配合使用，也能在任何代理框架中集成。它还与LangGraph的长期记忆层原生兼容。我们还推出了一项托管服务，提供额外的长期记忆功能，并且免费提供——如果您希望在生产环境中...LangMem智能体SDK
