AI.x社区

快速浏览一下头条新闻就会发现，如今生成人工智能似乎无处不在。事实上，其中一些标题实际上可能是由生成人工智能（如OpenAI的ChatGPT）撰写的，这是一个聊天机器人，展示了一种近乎人类写作的不可思议的能力。但当人们说“生成人工智能”时，他们真正指的是什么呢？在过去几年生成人工智能的兴起之前，当人们谈论人工智能时，通常是在谈论能够根据数据进行预测的机器学习模型。例如，这些模型通过数百万个示例进行训练，以预测...

传闻DeepSeekR2今天上新，东大时区已过，难道是阿美时间？不必失望，笔者20多年职业生涯学到一个深刻道理是：所有的rumor都是真的。DeepSeek不愧是国产之光，V3,R1系列模型以其卓越的性能和开源创新席卷全球。相应技术文档分享了多项关键技术突破，为高效、可扩展的大模型训练与推理奠定了基础。R1发布给行业带来的天翻地覆的震动波还在激荡，R2很快就可能接踵而至了。借此机会，笔者梳理一下DeepSeekR1&R2超越其他对手的核心秘...

人工智能（AI）在算力方面的发展历程是与硬件技术的进步紧密相连的。以下是这一领域重要的发展里程碑：1.初始阶段（1950s1970s）AI研究起步时，算力受限于早期计算机的性能。这些计算机体积庞大，处理能力有限。个人计算机（PC）的出现使得更多研究者能够访问到计算资源，但其算力仍然非常有限。2.微处理器和工作站（1980s1990s）微处理器的发展带来了计算能力的显著提升。同时，工作站成为AI研究的重要平台。更强大的微处理器...

在数字经济与实体经济深度融合的当下，人工智能（AI）技术正以指数级渗透力重塑全球产业格局。从自动驾驶车辆穿梭于智慧城市，到AI医生助理守护人类健康，再到智能工厂实现“黑灯生产”，人工智能已突破实验室边界，成为驱动产业变革的核心引擎。一、自动驾驶：重构出行生态的移动智能体自动驾驶技术正以“AI+交通”模式重构出行版图。英伟达DRIVEHyperion平台通过传感器融合与端到端深度学习模型，实现99.3%的暴雨天气行人识别...

投资组合优化是金融中的核心挑战，涉及资金在多个资产间的动态配置，传统方法存在假设限制和适应性不足的问题。本研究探讨深度强化学习在投资组合优化中的应用。结果表明，深度强化学习（DRL）模型在投资组合优化中表现优异，年化平均回报率为19.56%，夏普比率为1.5550，显示出卓越的风险调整回报。论文地址：https:arxiv.orgpdf2412.18563摘要人工智能正在改变金融投资决策，深度强化学习（DRL）在机器人顾问服务中展现出应用...

随着人工智能技术的快速发展，其对我们日常生活的影响日益显著。美国《福布斯》杂志网站刊登了未来学家伯纳德·马尔的文章，对2025年人工智能技术可能带来的变革进行了预测。以下是对这些趋势的详细分析。趋势一：增强型工作预计到2025年，人类在利用人工智能和拓展技术能力方面将更加审慎。这将减少对简单聊天机器人的依赖，同时释放出更多时间，让人们专注于那些需要创造力和沟通能力的工作。趋势二：实时自动决策企业将越来...

TLDR本文将展示如何使用DuckDB的数组类型和余弦相似度函数实现高效的基于文本嵌入的向量搜索，并通过电影数据集实例演示其应用。简介现在，许多分析任务涉及文本数据，例如电子商务商店的产品评论。这些任务包括但不限于分类、聚类和相似性比较。它们主要使用文本数据的向量嵌入表示来实现矢量搜索功能。DuckDB提供了Array[2]和List[3]数据类型，可以用来存储和处理向量嵌入，以实现向量搜索。在这个系列博客的第一篇中，我们将...

引言大型语言模型（LLMs）的推理能力近年来取得了显著进展，尤其是在训练后阶段。诸如DeepSeekR1、KimiK1.5和OpenAIo1等模型展现了卓越的逻辑推理能力。然而，这些成果的可复现性和扩展性仍面临诸多挑战，特别是在缺乏训练代码和数据集的情况下。LogicRL框架的提出旨在通过基于规则的强化学习（RL）方法，填补这一研究空白，并推动LLMs推理能力的进一步发展。LogicRL通过在逻辑谜题上进行训练，成功开发了类似DeepSeekR1的推理...

在人工智能的研究领域中，行动与变化推理（ReasoningaboutActionandChange）占据了一个不可或缺的地位。它涉及的是智能体如何在一个动态变化的环境中做出决策，以及如何根据行动的潜在后果来规划未来的行为。6月28日，一篇重温《人工智能研究导览》一书中关于行动和变化的推理一章的公认手稿的论文《ReasoningaboutActionandChange》深入探讨了这一主题，提供了对智能系统如何处理复杂决策过程的全面解读，引起业内关注。论文的...

在人工智能的宏大版图中，Transformer架构无疑是一颗璀璨的明星。它的出现，彻底改变了自然语言处理、计算机视觉等诸多领域的发展轨迹。《2025年大模型与Transformer架构：技术前沿与未来趋势报告》深入剖析了Transformer架构的前世今生、优势局限以及未来走向，为我们全面呈现了这一架构在AI领域的核心地位与无限潜力。一、Transformer架构诞生的灵感源泉Transformer架构的诞生深受人类大脑信息处理机制的启发。人类大脑在漫长...

开发人员需要开发和理解一种新的文本聚类方法，并使用DeepSeek推理模型解释推理结果。本文将探索大型语言模型（LLM）中的推理领域，并介绍DeepSeek这款优秀工具，它能帮助人们解释推论结果，构建能让终端用户更加信赖的机器学习系统。在默认情况下，机器学习模型是一种黑盒，不会为决策提供开箱即用的解释（XAI）。本文介绍如何使用DeepSeek模型，并尝试将解释或推理能力添加到机器学习世界中。方法​首先构建自定义嵌入和嵌入...

最少只需1个3D样例，即可生成3D主题乐园。来自香港城市大学、上海人工智能实验室和南洋理工大学SLab的研究人员提出了一种名为ThemeStation的新颖框架。它可以从少量3D样例中生成主题一致的高质量3D画廊。还能基于文本控制，生成想要的3D资产。比如“穿正装的猫头鹰”。要知道，虚拟世界和游戏等应用中，常常需要大规模主题一致的3D模型，如古城中的建筑群、虚拟生态系统中的怪物阵容。尽管一位资深3D建模师可以创作出若干主题一...

​摘要：思维链推理，作为人类智能的基本认知过程，在人工智能和自然语言处理领域引起了极大的关注。然而，这一领域仍然缺乏全面的综述。为此，我们迈出了第一步，全面而广泛地呈现了这一研究领域的深入调查。我们使用XofThought（思维X）来广泛地指代思维链推理。具体来说，我们根据方法的分类系统地组织了当前的研究，包括XoT构建、XoT结构变体和增强的XoT。此外，我们描述了XoT在前沿应用中的使用，涵盖了规划、工具使用和蒸...

大型语言模型（LLM）在自然语言处理任务中取得了显著的成功，但同时也面临着模型过大、计算需求过高的问题。为了解决这些问题，模型压缩技术应运而生，旨在减小模型大小、降低计算复杂度并提升运行效率。本文将对LLM压缩技术进行详细的分析，包括剪枝、知识蒸馏和量化等关键技术，并结合实际应用案例进行分析。一、剪枝技术剪枝技术是通过删除不必要或冗余的参数或连接来减小模型大小和复杂度的有效手段。剪枝可以分为非结构化...

论文链接:​​https:arxiv.orgpdf2404.10407​​视觉Transformer（ViT）在计算机视觉领域标志性地实现了一次革命，超越了各种任务的最先进模型。然而，它们的实际应用受到高计算和内存需求的限制。本研究通过评估四种主要的模型压缩技术：量化、低秩近似、知识蒸馏和剪枝，来解决这一挑战。系统地分析和比较了这些技术及其组合在优化ViT以适应资源受限环境方面的效果。全面实验评估表明，这些方法在模型准确性和计算效率之间实...

一、集成学习概述集成学习的核心思想在于“三个臭皮匠，顶个诸葛亮”，即通过结合多个相对简单的学习器（也被称为基学习器），使其协同工作，最终达到比单个学习器更好的预测效果。它假设基学习器之间存在一定的差异性，并且能够通过合适的集成策略将这些差异转化为优势，减少模型的偏差和方差，进而提升整体的准确性和稳定性。二、Bagging（BootstrapAggregating，自助聚集）（一）基本原理Bagging的操作过程可以分为三步：自...

数据合约是分布式数据解决方案中保障数据质量和可扩展性的核心。它规定了数据库实体间数据交换的格式、模式和协议，通过消除数据歧义与未文档化的假设，为数据流通建立标准化规则。本文带大家深入解析数据合约的核心概念，并提供基础与进阶技术，助力其高效落地。一、数据合约的本质数据合约定义了两个模型间数据交换的精确参数，确保数据格式与模式的一致性，是数据生产者（修改数据状态的流程）与消费者（数据接收方）之间的...

图片今天咱们来唠唠那些听起来高大上、实则超实用的注意力机制：MHA、MQA、GQA和MLA。是不是光看这些缩写就头大了？别怕，我这就带你一文看懂它们的原理和计算公式，让你轻松掌握这些前沿技术1.MHA（MultiHeadAttention）1.1原理与公式多头注意力机制（MHA）是Transformer架构的核心组成部分，其原理是将输入数据通过不同的“头”进行多次注意力计算，然后将这些计算结果拼接起来，再通过一个线性变换得到最终的输出。这种机制...

SWERL:AdvancingLLMReasoningviaReinforcementLearningonOpenSoftwareEvolution20250225｜MetaFAIR,UIUC,MetaGenAI,CMU🔺37​​​http:arxiv.orgabs2502.18449v1​​​​​​​​https:huggingface.copapers2502.18449​​​​​​​​https:github.comfacebookresearchswerl​​​研究背景与意义近年来，大型语言模型（LLMs）在软件工程（SE）任务中的应用引起了广泛关注。研究者们探索了LLMs在自动化复杂SE任务中的潜力，例如...

摘要推理大语言模型（LLMs）正在各个领域快速发展，但其处理复杂金融问题的能力仍需深入探索。本文介绍了FinR1，一个专为金融推理设计的大语言模型。该模型参数规模轻量（70亿），显著降低了部署成本，同时有效解决了金融领域的三大痛点：碎片化的金融数据、不可控的推理逻辑以及薄弱的业务泛化能力。为提升模型推理能力，我们首先通过从多个权威数据集蒸馏和筛选，构建了FinR1Data——一个包含约60,091条完整思维链（CoT）的高...