AI.x社区
- 登录/注册
默认
发布时间
热度
原创
精华
开源版o1！中国大模型让国外陷入疯狂，成本猛降90%
精华前不久，国产大模型平台DeepSeek开源的v3模型，受到了AndrejKarpathy等业内大神的盛赞，在算法、数据等方面非常棒。现在，DeepSeek又重磅开源了R1模型。根据其公布测试数据显示，在美国AIME2024测试中R1拿下79.8分，超过了OpenAI的o1模型的79.2分；在MATH500，R1为97.3分，同样超过了o1的96.4分；在SWEbenchVerified，R1为49.2分再次超过了o1的48.9分。而在代码测试Codeforces中，R1仅比o1模型低0.3分；MMLU低1分；GPQA低4.2分...模型开源AI计算效率和性能双赢！南大联合中移动发布高效多模态大模型新范式—— p-MoD
文章链接：https:arxiv.orgpdf2412.04449项目链接：https:github.comMCGNJUpMoD亮点直击MoD机制的引入：通过选择性处理重要视觉token，显著减少计算负担，提升模型效率。创新的TanhNorm与STRing设计：解决了MoD模块在多模态训练中的稳定性和性能问题，即使在有限数据下也能精准评估token的重要性。PRD策略：通过逐层减少保留token的比例，针对视觉token的冗余问题提供了有效的解决方案，大幅提高计算效率。全面的实验验证：在多...模型训练AI机器学习的下一个前沿—量子扩展
原创本文将和你探讨量子扩展的基本概念，它在机器学习中的优势，以及我们将如何从中获益。现如今，机器学习的速度比以往任何时候都快得多，也能够解决那些曾被认为完全无法解决的问题。将来，在量子计算潜力的驱动下，人工智能（AI）模型会越来越大、越来越强，甚至会超越我们对其训练的工具。说到模型训练，其计算和能源的消耗成本日趋高启。GPT4及其继任者的大规模训练所消耗的电力已与一个城市相当。此外，据报道，OpenAI的GPT3...PyTorch机器学习量子扩展大模型训练之训练数据准备，即怎么准备高质量的训练数据集？
原创“训练数据集的质量是大模型的主要生命线之一，数据集质量直接影响到模型的性能和效果”训练一个高性能且表现较好的模型是由多种因素决定的，比如模型的设计，损失函数与优化函数的实现，训练方式的选择；当然也包括高质量的训练数据。那么，怎么才能得到一个高质量的训练数据集呢？这个就是我们今天需要讨论的问题。训练数据集的准备机器学习和深度学习模型的性能高度依赖于训练数据的质量和数量；训练数据的准备工作对于构建...大模型数据清洗小红书翻译紧急上线，见证历史：大模型翻译首次上线C端应用！AI竟自称是GPT-4?
原创编辑伊风程序员键盘敲冒烟，小红书翻译功能这不是就来了吗！之前大家各种吐槽美国人用的翻译机器不准确，导致大家交流起来“人机感很重”，一些美网友还需要额外用ChatGPT才能实现无缝交流。这翻译功能一出来，语言障碍什么的都不存在了。官方声明足足有十万点赞，很多外国友人也在评论区直呼中国速度！图片虽然官方声明只介绍了中译英和英译中，但这波小红书的翻译已经说是“万物皆可翻”也不过分。翻译小语种：经网友测试，不...小红书C端GPT-4OpenBMB 刚刚发布 MiniCPM-o 2.6：新的 8B 参数、Any-to-Any 多模态模型
原创01、概述近年来，人工智能技术突飞猛进，但在计算效率与灵活性之间的平衡仍然是一个巨大挑战。像GPT4这样的多模态模型，尽管具有前所未有的强大能力，但也需要庞大的计算资源，这使得它们只能在高端服务器上运行，导致普通用户，尤其是智能手机、平板电脑等边缘设备的用户，无法充分体验这些技术的魅力。此外，像视频分析或语音转文本这样的实时处理任务仍然面临技术上的诸多难题。这些问题凸显了开发既高效又灵活的AI模型的迫...多模态大模型九种不同类型的检索增强生成 (RAG)
原创 精华01、概述在人工智能的世界里，RetrievalAugmentedGeneration(RAG)框架因其能够结合检索式与生成式模型的优势而备受瞩目。RAG模型通过从外部数据源检索相关信息，并以此生成基于上下文的回答，不仅提升了生成内容的准确性，还让模型能够处理大量复杂的信息。RAG的发展衍生出多个变体，每种变体针对不同领域的需求和挑战进行了优化。本文将详细解析九种RAG框架：标准RAG、纠错RAG、推测RAG、融合RAG、自主RAG、自反RAG、图谱RAG、...RAGDolphin 3.0 发布（Llama 3.1 + 3.2 + Qwen 2.5）：本地优先、可操纵的 AI 模型
原创01、概述人工智能，已经渗透进我们生活的方方面面，改变了我们的工作方式、生活习惯，甚至人际交往的模式。然而，尽管AI取得了长足的进步，依旧面临许多挑战。许多AI系统过度依赖云端基础设施，带来了隐私泄露的风险；有些系统用户控制能力较弱，难以根据需求进行个性化定制；更有甚者，调整AI行为以满足特定需求的难度常常大于预期。而在众多先进模型中，性能往往被置于易用性之上，这使得许多用户在本地环境中难以部署这些模...Dolphin 3.0人工智能惊掉下巴！o3像是一个弥天大谎！基准构建者Epoch AI发长文认错曝猛料：OpenAI竟独家访问数据集，问题和答案
原创出品51CTO技术栈（微信号：blog51cto）惊天大瓜来了！去年年底OpenAI推出o3推理，在数学、编码、通用AGI方面都取得了令人的难以置信的类人甚至超人的进展。但就在昨天，大洋彼岸的一众人工智能专家开始对“o3”的这些数据表示严重的怀疑，甚至将之比作“Theranos”时刻（一家建立在巨大谎言之上的公司，项目参与人员被迫保密，外界却被蒙在鼓里）。因为事实证明，o3的发布者OpenAI恰恰资助了FrontierMath，同时可以访问大部分数...o3OpenAIGSM8KFineMedLM-o1: 基于监督微调与测试时训练的医学推理增强型大语言模型
精华一、研究背景与意义近年来，大语言模型(LLMs)在医疗领域的应用展现出巨大潜力，特别是在疾病诊断和治疗规划等方面。然而，现有的医学大语言模型在处理复杂临床场景时，往往难以进行深度推理，尤其是在差异化诊断和个性化治疗建议等方面存在明显短板。本研究提出的FineMedLMo1模型，通过创新性地结合高质量合成医学数据和长格式推理数据，采用监督微调(SFT)和直接偏好优化(DPO)技术，显著提升了模型的医学推理能力。二、技术创新...大语言模型数据合成机器学习|从0开始大模型之位置编码
1、什么是位置编码在语言中，一句话是由词组成的，词与词之间是有顺序的，如果顺序乱了或者重排，其实整个句子的意思就变了，所以词与词之间是有顺序的。在循环神经网络中，序列与序列之间也是有顺序的，所以循环神经网络中，序列与序列之间也是有顺序的，不需要处理这种问题。但是在Transformer中，每个词是独立的，所以需要将词的位置信息添加到模型中，让模型维护顺序关系。位置编码位置编码就是将helloworld!的token和位置...机器学习大模型位置编码大模型厂商视角的AI Agent综述，Anthropic图文并茂多个案例教你构建有效智能体
如何建立有效的智能体？来自anthropic的官方AIAgent构建指南一文了解大模型厂商眼中的智能体，来自anthropic的AIAgent年度性总结到底什么是智能体？一篇anthropic官方AIAgent综述看明白工作流和Agent有何区别？应该什么时候用工作流和Agent？Anthropic官方指南来了构建AIAgent用框架还是用工作流？Anthropic年度综述智能体构建指北大模型厂商视角的AIAgent综述，Anthropic图文并茂多个案例教你构建有效智能体最近两个月，全球大...AIAgent智能体处女座 (Virgo)：基于文本指令微调的多模态慢思考推理系统
1.引言近年来，随着深度学习技术的飞速发展，人工智能(AI)在诸多领域取得了突破性进展。然而，传统的深度学习模型在处理需要复杂推理的任务时仍然面临挑战。例如，在面对数学题、逻辑谜题或科学问题时，简单地依靠模式识别和函数拟合难以获得令人满意的结果。为了解决这个问题，研究人员开始探索将深度学习与符号推理相结合，从而赋予AI系统更强的推理能力，即慢思考推理。慢思考推理强调对问题进行深入分析和逐步求解，而非仅...多模态推理系统人工智能清华&人大：search-o1 让推理模型具有主动能力
1.背景大型推理模型如OpenAIo1、QwenQwQ等通过大规模强化学习，在科学、数学、编码等复杂领域展现出了强大的逐步推理能力。它们以“慢思考”模式生成长思维链条，有效解决复杂问题，增强了推理的逻辑性和可解释性。然而，这也带来了显著弊端，在长链式推理过程中，模型常常遭遇知识不足的困境。这使得推理链条容易出现错误传播，严重影响最终答案的质量。例如，在处理一些复杂的科学问题时，模型可能会因为对某些关键知识点的缺...Search - o1框架模型FLUX加持大幅提升渲染质量和控制能力！浙大&哈佛提出3DIS升级版3DIS-FLUX
文章链接：https:arxiv.orgpdf2501.05131项目链接：https:limuloo.github.io3DIS亮点直击3DIS的创新：通过深度驱动的解耦生成框架，大大降低了对计算资源的需求，并解决了适配器方法的重新训练问题。FLUX的集成：3DISFLUX利用FLUX模型提升了渲染质量和控制能力，超越了传统的UNet架构。训练free细节渲染：通过细致控制FLUX模型中的Attention机制，成功实现了对每个实例细节的精确渲染，避免了额外的训练负担。性能与质量双重提...3D模型生成BiomedGPT：一种用于多样化生物医学任务的通用型跨模态基础模型 - 宾州Lehigh大学、佐治亚大学、哈佛医学院
摘要传统的生物医学人工智能（AI）模型，针对特定任务或模式设计，在实际应用中往往表现出有限的灵活性，并且难以利用整体信息。通用型AI由于其解释不同数据类型的能力以及为多样化需求生成定制输出的能力，具有解决这些限制的潜力。然而，现有的生物医学通用型AI解决方案通常对研究人员、从业者和患者而言是重量级且闭源的。在这里，我们提出了BiomedGPT，第一个开源且轻量级的视觉语言基础模型，旨在作为一个能够执行各种生物...通用型跨模态MLM大语言模型推理框架llama.cpp开发实战
原创本文首先探索当前热门的大语言模型推理框架llama.cpp的内部架构，然后使用此框架实现了一个基本形式的聊天程序。简介当前，llama.cpp框架以其简单性被业界广泛采用，彻底改变了LLM推理领域。它支持企业和个人开发人员能够在从SBC到多GPU集群的各类型设备上部署机器学习大型语言模型。尽管llama.cpp的语言绑定方式使其使用方式变得容易，但是对于性能敏感或资源受限的情况，使用CC++编程方案可能是一个更为可行的选择。本文旨在...大语言模型llama.cpp框架LLMAIGC人工智能如何赋能汽车行业
原创在全球经济的数字化浪潮中，汽车行业正经历着前所未有的变革。在整体经济下行的背景下，企业内功修炼成为重中之重，为实现经济转型与高质量发展，数字化转型发挥着关键支撑的作用。这一趋势在内卷淘汰赛进入下半场阶段的汽车行业尤其凸显，数字化转型助力企业运营的优化与升级，为企业创造更多附加值。在汽车智能制造领域，AI与机器视觉技术结合，可以实现更精准的质量追溯和管理，与传统的人工质检方式相比，这很大程度提高了...AIGC汽车行业AI Agent 智能体开发工作手册详细指南
原创AIAgent智能体，目前更具体地指的是LLMAgent。这是一种程序，其执行逻辑受其底层大模型（LLM）的操控。与少样本提示（Fewshot）或固定工作流（Workflow）等手段相比，LLMAgent的独特之处在于它能定义并调整执行用户查询所需的步骤。若能访问一系列工具（例如：代码执行或网络搜索），AIAgent智能体能够决定采用何种工具、如何运用它，并根据输出结果进行迭代优化。这种灵活性使得系统能以最低限度的配置应对多样化的应用场景。A...AI Agent智能体大模型前置处理之——特征提取
原创“特征提取是机器学习模型中的重要前置环境，特征提取的效果直接影响到模型的性能”在学习大模型技术的过程中，每个人应该都听过特征提取；但大部分人可能并不了解什么是特征提取，以及特征提取的方法和作用。所以，今天我们就来介绍一下大模型的前置处理——特征提取。特征提取背景有很多人认为，特征提取是由神经网络发展而来；但事实上，在机器学习发展之出，甚至可以说在人工智能技术发展之初，特征提取就已经出现了，只不...大模型特征提取神经网络
