AI.x社区

Hi，这里是Aitrainee，欢迎阅读本期新文章。Gemini2.0的故事，正在加速展开。12月的Flash实验版，为开发者带来低延迟、高性能的工作模型。今年初，2.0FlashThinkingExperimental在GoogleAIStudio更新，通过结合Flash的速度和增强的推理能力，进一步提升性能。上周，更新版2.0Flash已在Gemini桌面和移动应用全面上线。今天，三个新成员同时亮相：迄今为止在编码和复杂提示方面表现最佳的模型Gemini2.0Pro实验版，性价比之选2.0Fl...

随着人工智能和机器学习技术的迅猛发展，像Llama370B这样的庞大语言模型已经成为了研究、开发和应用中的重要工具。这篇文章将详细介绍如何在个人电脑上运行Llama370B大模型，并涵盖硬件要求、软件环境配置、安装步骤、运行示例和常见问题的解决方案。虽然运行这样一个大规模的模型在性能上有限制，但对于实验和学习非常有帮助。硬件要求运行Llama370B这样的大规模模型对硬件有较高的要求。一般来说，你需要以下硬件配置：CPU:至...

这个工作目标是，找到一种简单的方法，可以实现testtimescalling。关键点有2个，构建高质量的监督数据1k，用于监督微调；一个BudgetForcing的方法，用于限定模型的推理过程。经过这么一折腾，模型的性能随着推理token数量变长而编号。如何构建高质量的1k数据初始收集：从16个不同的来源收集了59,029个问题，包括NuminaMATH、AIME、OlympicArena、OmniMath、AGIEval等。最终筛选：通过质量、难度和多样性三个标准，从59K个问题中...

在当今数字化信息爆炸的时代，高效的知识管理与创作工具成为了学术研究、教育教学、企业运营及个人成长等众多领域的迫切需求。OpenNotebook作为一款开源且高度注重隐私的创新工具，以其独特的功能优势和技术特色，为用户提供了强大的笔记管理与智能创作能力，成为了Google'sNotebookLM的有力替代方案。本文将深入剖析OpenNotebook的项目架构、技术原理、功能特性、应用场景及使用方法，助力读者全面了解并充分利用这一前沿工具...

近期，DeepSeek的发布在开源社区引起了广泛关注。成功再次将人们的目光聚焦到了模型蒸馏技术上来。那么，究竟什么是模型蒸馏？为什么它能帮助我们构建如此高效的模型？让我们一起深入探讨这个话题。LLMDistillation将大型生成模型定位为“teacher”，将较小的模型定位为“student”。student模型可以是简单的模型（如logisticregression）或基础模型（如BERT）。在最基本的distillation版本中，数据科学家从未标记的数据开始，...

嘿，大家好！这里是一个专注于AI智能体的频道早上，OpenAI又在折腾了，现在o3mini支持思维链可视了！当然能看到的，既不是原始思维链的赤裸展示，也不再是完全的黑箱操作。图片有限透明的技术妥协o3mini的思维链展示并非实时思维流，而是经过三重过滤的精致产物：安全审查层：自动剔除涉及伦理争议的推理片段（如怎么做炸药）复杂性蒸馏：将数学证明过程压缩为步骤大纲，保留结论但隐去关键参数多语言转换：非英语用户的思维链...

编辑伊风OpenAI又Open了一点点！奥特曼预告的o3"onemorething"来了！图片OpenAI突然更新了免费和付费用户的o3mini思维链。在这一更新之后，我们终于能看看模型的推理步骤以及它如何得出答案的过程了！同时，据OpenAI介绍，使用o3mini并选择“高推理”模式的高级ChatGPT订阅用户也将看到这一改进后的推理显示。OpenAI在推文中还给了一个例子，用户问ChatGPT“今天为啥不是周五呢？”o3思考了一下，甚至还用了个😅的emoji，“我也...

在2025年当下，大语言模型（LLM）依旧无法获取用户的私有数据。当用户向其询问某些与个人相关的问题时，大语言模型要么凭借推测进行回应，要么给出错误的解答。这体现了大语言模型存在的固有局限性——它们仅基于公开信息进行训练，无法获取用户的私有上下文信息。内存代理（MemoryAgent）则通过实时且安全地将用户的私有数据与任意大语言模型进行链接，有效解决了上述问题。在本教程中，笔者将详细指导你如何借助Langbase（一...

编辑伊风出品51CTO技术栈（微信号：blog51cto）太魔鬼了！上周李飞飞团队发了篇新论文，再次降低了复刻o1能力的成本。低到什么程度呢？论文里说，在现成的预训练模型（用的是阿里系开源的Qwen2.532BInstruct）进行监督微调（SFT），使用构建的小规模数据集，仅耗时26分钟，就在16张H100GPU上完成训练。据研究人员介绍，这样的算力租赁成本大约在20美元左右！图片这么省时省钱的模型，居然和o1预览版性能掰手腕：实验结果显示，...

这个春节，DeepSeek实在太火了，无须赘述。今天，我们直接讲干货。用10个问题带大家了解：DeepSeek怎么用，如何与DeepSeek高质量对话，以及一些隐藏技巧。1、巧用DeepSeek的三种模式DeepSeek提供了三种聊天模式基础模型、深度思考（R1）和联网搜索，你可以根据不同的情境和需求，自由选择合适的模式。基础模型已在去年12月升级至DeepSeekV3版本，其性能可与全球领先的开源和闭源模型相媲美，包括4o、Claude3.5Sonnet、Qwen2.5、...

大型语言模型(LLM)正在极大地影响AI研究，引发了关于迄今为止发生了什么变化以及如何塑造该领域未来的讨论。为了澄清这些问题，有研究人员分析新的数据集，其中包含16,979篇与LLM相关的arXiv论文，重点关注2023年与20182022年相比的最新趋势。首先研究人员观察到LLM研究越来越多地影响着社会，这从计算机和社会arXiv中LLM论文提交量增长20倍可以看出。大量新作者来自非计算机的NLP领域，推动了各个学科扩展。其次，令人惊讶的是...

WebWalker:BenchmarkingLLMsinWebTraversal检索增强生成（RAG）在开放域问答任务中表现出色。然而，传统搜索引擎可能会检索浅层内容，限制了大型语言模型（LLM）处理复杂、多层次信息的能力。为了解决这个问题，我们引入了WebWalkerQA，一个旨在评估LLM执行网页遍历能力的基准。它评估LLM系统性地遍历网站子页面以获取对应信息的能力。同时我们提出了WebWalker，一个通过explorercritic范式模拟人类网页导航的multiagent框架。...

一、背景本文中我们继续介绍小红书用于多模态场景笔记推荐的NoteLLM2。对应的论文为：[2405.16789]NoteLLM2:MultimodalLargeRepresentationModelsforRecommendation[1]二、摘要LLM在文本理解方面展现了卓越能力，现有研究也已探讨了其在文本Embedding任务中的应用，然而，利用LLM辅助多模态表征任务的研究尚不多见。本文作者旨在探索LLM在多模态ItemtoItem（I2I）推荐中增强多模态表征的潜力。如下图Figure1所示，一种可行的方...

图片RLHF的规模化之谜：真的值得无限投入算力吗？强化学习自人类反馈（RLHF）已成为大语言模型（LLM）后训练的关键步骤，帮助ChatGPT、Llama等模型更符合人类偏好。然而，RLHF是否像预训练那样，能通过增加算力和数据带来持续提升？清华大学与知乎AI的最新研究对此进行了系统性分析，揭示了RLHF的规模化极限，并提出优化策略。图片研究方法：三大核心变量的深入探究研究团队围绕模型规模、数据多样性、推理计算预算三大因素，训...

VLLM是一款经过优化的推理引擎，在令牌生成速度和内存管理效率上表现出色，是大规模AI应用的理想之选。Ollama则是一个轻量级、易上手的框架，让在本地电脑上运行开源大语言模型变得更加简单。那么，这两个框架该选哪一个呢？接下来，我们会从性能、易用性、适用场景、替代方案，以及详细的安装步骤等方面进行全面对比，帮助你做出更合适的选择。一、VLLM和Ollama是什么？基础知识解析在深入探讨之前，我们先来了解一下这两个框...

​还在为大模型推理速度慢、成本高而烦恼吗？这篇来自CMU和清华大学的论文给你带来了一个颠覆性的解决方案！他们发现，在推理大型语言模型时，“大力出奇迹”不再是真理！通过深入研究推理过程中的计算与性能关系，他们提出了“推理缩放定律”，并革命性地推出了一种名为REBASE的全新算法。REBASE就像一位聪明的向导，能够巧妙地利用奖励信号，指引模型在推理的迷宫中高效探索，避免了传统方法中耗时费力的盲目搜索。实验结果令...

编辑伊风出品51CTO技术栈（微信号：blog51cto）DeepSeek的火热，让Google坐不住了！深夜，Google推出了Gemini2.0全家桶，一口气推出了三个模型型号：Gemini2.0Flash、Gemini2.0FlashLiteGemini2.0Pro。图片看技术报告，2.0系列的三个模型在通用、代码、推理、事实性、多语言等方面指标如下。比起此前Gemini1.5系列着实有了多维度的进化，但明显没有性能的断层式飞跃。图片再来看最近AI圈关注的重中之重——推理。谷歌也在Gemini...

论文链接：https:arxiv.orgpdf2502.01993代码&模型链接：https:github.comJianzeLi114FluxSR亮点直击开发了FluxSR，一种基于FLUX.1dev的单步扩散RealISR模型。这是首个基于超过120亿参数大模型的单步扩散RealISR模型。提出了一种流轨迹蒸馏（FTD）方法，明确建立了噪声到图像流与低分辨率到高分辨率流之间的关系。在噪声到图像流保持不变的情况下，能够保留T2I模型中的高度逼真性，并有效地将其转移到低分辨率到高分辨率的流中...

本地电脑部署主要适用于以下5种场景：第一、设备性能较强，配备独立显卡，能够支撑高效运行。第二、需要处理敏感数据，对数据安全性有较高要求，以防泄露。第三、需要与本地工作流程紧密结合，应对频繁或复杂的任务处理。第四、日常频繁使用，且API调用成本较高，本地部署有助于降低成本。第五、希望在开源模型基础上，进行个性化定制和优化。1、DeepSeekR1模型部署2步搞定本部分内容将重点阐述如何在本地环境下利用Ollama来部...

文章链接：https:arxiv.orgabs2501.13554GitHub代码：https:github.combyliutao1Prompt1Story项目主页：https:byliutao.github.io1Prompt1Story.github.io亮点直击首次分析了语言模型维持固有上下文一致性的能力，能够在一个提示中让多个帧的描述天然指代同一主体身份。​基于上下文一致性特性，提出了一种新颖的免训练方法——OnePromptOneStory，用于实现一致的文本到图像生成。更具体地，进一步提出了提示加权（SVR）和交叉...