AI.x社区
- 登录/注册
默认
发布时间
热度
原创
精华
手把手教你将本地部署的DeepSeek R1集成到Dify
今天，手把手教大家在本地部署DeepSeekR1，并将其集成到Dify中，实打实提升你的工作效率！一、本地部署模型本部分介绍在本地通过ollama部署DeepSeekR1。1、安装ollama在ollama官网，选择操作系统，下载ollama应用程序并安装命令行输入ollama，出现下面的提示，则说明安装成功。2、部署deepseek模型在ollama官网，点击「Models」，选择第一个「DeepSeekR1」根据自己的显存选择对应的版本大小。模型名称参数规模（b）显存需求（FP...DeepSeek R1Dify模型DeepSeek R1横空出世，超越OpenAI o1，教你用Ollama跑起来
精华AI正在深刻改变各行业，大语言模型（LLMs）更是其中的核心驱动力。例如，DeepSeekR1作为第一代推理模型，在数学、代码和推理任务上表现优异，与OpenAI的o1模型不相上下。将此类模型部署到本地，可为AI应用带来更强隐私保护、定制化和可控性。今天指导大家如何使用Ollama——一款AI模型管理和运行工具——在本地计算机上部署并运行DeepSeekR1。同时，推荐免费下载Apidog（https:apidog.com），能简化API设计与测试流程，是开发者...DeepSeekOpenAIAIDeepSeek的V3，爆火了
原创编辑言征出品51CTO技术栈（微信号：blog51cto）上周四，12月26日那个晚上非常不平凡，一件大事注定要被AI界写进里程碑。一夜之间，全球开源界最强模型不再是Llama了，而是中国开源界的新星DeepSeek最新研发的前言模型V3，甚至可以比肩世界顶尖的闭源模型。根据DeeSeek披露的基准测试分数，简单来讲，八个字：开源最强，闭源比肩。DeepSeekV3在众多其他闭源模型中脱颖而出，表现优于Meta的旗舰产品——拥有4050亿个参数的Llama3....DeepSeekV3AIDoc2X：为知识库RAG接上高精度文档解析的“智能引擎”
精华在数字化浪潮席卷各行业的今天，海量文档的智能处理与高效利用已成为开发者亟待解决的核心痛点。无论是构建智能知识库、优化信息检索，还是革新教育科技，精准、高效的文档解析能力都扮演着至关重要的角色。今天，我们要介绍的是一款专为开发者设计的强大文档解析产品——Doc2X。一、为什么选择Doc2X？Doc2X是一款强大的文档解析工具，它能够将PDF、图片等多种格式的文档精准转换为Markdown、LaTeX、HTML、Word等结构化或半结构...RAG智能引擎Doc2XOpenAI o1：用内部思维链进行复杂推理
原创 精华本篇将介绍OpenAIo1。OpenAIo1，这是一种新的大型语言模型，经过强化学习训练，可以执行复杂的推理。O1在回答之前会思考在响应用户之前，它可以产生一个很长的内部思维链。OpenAIo1在竞争性编程问题（Codeforces）中排名89百分位，在美国数学奥林匹克竞赛（AIME）资格赛中跻身美国前500名学生之列，在物理、生物和化学问题的基准（GPQA）上超过了人类博士水平的准确性。OpenAI的大规模强化学习算法教会模型如何在高度数据高效...OpenAI o1大型语言模型冲，DeepSeek-R1/V3推理系统架构设计被开源了！
DeepSeek开源周并未结束，OneMoreThing：DeepSeekV3R1推理系统概述以及高达545%的成本利润率：通过以下方式优化吞吐量和延迟🔧跨节点EP驱动的批量扩展🔄计算通信重叠⚖️负载均衡DeepSeek在线服务的统计数据⚡每个H800节点每秒73.7k14.8k输入输出tokens🚀成本利润率545%图片DeepSeekV3R1推理系统的优化目标是：更大的吞吐，更低的延迟。图片大规模跨节点专家并行（EP）由于DeepSeekV3R1模型具有高度稀疏性，每层256个专家中仅激...DeepSeek推理系统思维链(COT)+反思(Reflection)+语言强化(Verbal R)能否提升大模型推理能力到ChatGPT O1的水平？
已有的大模型能否通过PromptEngineering达到O1类似的推理水平？我见过很多尝试，在个别案例上有观察到惊艳的推理效果，但大多没有普遍提升已有大模型的推理能力。今天看到这个方法，感觉是通过PromptEngineering可以有效普遍提升大模型的推理能力。以下就是那个MagicPrompt，先睹为快。作者准备了50道需要长推理过程的问题，分别测试几种场景：ClaudeSonnet+上述PromptClauseSonnetLlama3.18B+上述PromptLlama3.18BChatGPT4o+上...思维链Reflection语言强化DeepSeek简明解析，10分钟速通DeepSeekV1~V3核心技术点！
最近，DeepSeek在国际上很火，一方面其效果比肩非开源模型ChatGPT，另一方面其运行成本很低。可以说，DeepSeek是目前为止最先进的大模型之一。今天这篇文章，就带大家梳理一下从2024年至今DeepSeek发布的V1版本到V3版本的核心技术点，看看DeepSeek采用了哪些技术构建了最先进的大模型，每一次的升级基本都伴随着训练数据的优化、模型结构的升级、优化方式的更新。为了方便大家阅读，本文会用比较简洁的语言进行主要技术的介绍，...DeepSeekDeepSeekV1主模型从openAI最新模型GPT-o1再谈思维链(Cot)技术，大模型该怎么提升其逻辑推理能力？
原创“推理能力是大模型迈向AGI的必经之路”最近openAI发布了号称史上最强模型——o1，其具有强大的逻辑推理能力，号称能达到人类的博士生水平。而从o1模型的评测来看，o1模型在数学竞赛，编码，科学问答等方面表现良好，甚至高出了GPT4o一大截。而且，o1在物理，化学，生物，逻辑学等其它领域，相比GPT4o都得到了巨大的提升。而据介绍o1模型之所以具有如此强大的逻辑推理能力，就是因为使用了思维链技术；当然，目前官方并没有公布...大模型思维链RAGFlow 入门指南：解锁你的智能知识库引擎
你是否曾被大语言模型（LLM）的“一本正经地胡说八道”（幻觉）所困扰？你是否希望LLM能够基于你自己的专业文档给出可靠且有据可查的答案？那么，RAGFlow就是你一直在寻找的答案！RAGFlow是一款开源的RAG（RetrievalAugmentedGeneration，检索增强生成）引擎，它的核心使命是帮助你利用深度文档理解技术，构建出高质量、高可靠性的智能知识库。无论你是大型企业还是个人开发者，RAGFlow都能为你提供一套精简而强大的RAG工作流程...RAGFlow智能RAGOpenAI o1引发的思维链思考：思维链提示启发大模型推理
摘要：我们探索了生成一个思维链（一系列中间推理步骤）可以怎样显著提高大型语言模型执行复杂推理的能力。特别是，我们展示了这种推理能力是如何通过一种称为思维链提示的简单方法，在足够大的语言模型中自然出现的，其中提供了一些思维链演示作为提示的示例。在三个大型语言模型上的实验表明，思维链提示可以提高一系列算术、常识和符号推理任务的性能。经验收益可能是惊人的。例如，用只有八个思维链示例来提示PaLM540B在数...语言模型AIRAG文档解析器，核心技术剖析
最近，RAG技术逐渐走红，但文档解析这一重要环节却鲜为人知。说到底，无论使用多么高级的检索和生成技术，最终效果都取决于文档本身的质量。如果文档信息不全或格式混乱，那么再怎么优化检索策略、嵌入模型或大型语言模型（LLMs）也无济于事。本文介绍三种流行的文档提取策略，并以亚马逊2024年第一季度报告中的表格解析为例，展示这些策略的实际应用。1文本解析器：基础工具文本解析器已经发展多年，这些工具能够读取文档并从...RAG解析器性能RAG知识库构建新框架-EasyDoc小模型+多模态大模型结合的文档智能解析框架
原创传统的基于OCR的pipline的相关技术路线（如下图），目前多模态大模型的出现，文档解析技术链路出现了新的一些玩法。最近看到一个新产品，EasyDoc（https:www.easylinkai.comeasydoc），在原有的OCR链路中引入了多模态大模型进行图表理解，由此，笔者又更新了一张图，如下：图2：OCRpipline结合多模态大模型的文档智能解析技术路线下面我们来看结合☞EasyDoc这个新框架，看看Easydoc文档解析过程中的相关技术实践路线、通过实际...RAG多模态大模型智驾｜一文看懂两大核心技术解析 BEV算法与城市NOA
原创
社区头条BEV（Bird'sEyeView）算法和城市NOA（NavigateonAutopilot）系统是智能驾驶领域的重要概念和技术。1.BEV算法（鸟瞰图感知算法）（1）什么是BEV？BEV（Bird'sEyeView，鸟瞰图）是一种将不同传感器采集到的三维环境信息转换到鸟瞰图视角下的二维平面环境信息的算法，是一种自动驾驶环境感知方法，通过将多摄像头、雷达等传感器的数据统一映射到俯视的2D3D空间，形成车辆周围环境的“上帝视角”表达。简单来说，就是把车辆周围复杂...智驾BEV算法智能驾驶刚刚，OpenAI发布史上最强模型-o1，推理能力超人类博士！
今天凌晨1点，OpenAI终于正式发布了传说中的“草莓”模型——o1。除了名字不一样，功能、推理、性能等方面与之前泄漏的内容基本一致，o1的推理模式很特殊，在回答用户问题之前会进入拟人化思考模式，将问题分解成更小的步骤逐一解决，生成一个较长的内部思维链，回答的内容也更加准确。这个技术谷歌DeepMind很早之前便进行过解读称为——训练时计算（Testtimecomputation）。其核心技术主要使用了密集型、流程导向的验证奖励模...ChatGPTOpenAIOpenAI o1很强，也能被玩坏！
OpenAI草莓Q项目终于发布了，OpenAIo1在具有挑战性的推理基准上遥遥领先于GPT4o，即使在一些基准上超过了人类PhD水平，也能被玩坏实线表示pass1准确率，阴影区域表示64个样本的多数投票（共识）表现OpenAIo1思考一个“句子编写”问题，足足花费92s，经历了漫长的thinking过程：识别单词模式映射单词关系识别押韵模式...权衡各种模式编写一个句子，遵循与句子"isoldbowlstoboldsouls"相同的规则，其中包含四个关键词，sold、bowl...OpenAIGPT项目这就是大语言模型！ | 一文梳理LLM中的核心概念
文字接龙LLM从根本上始终要做的是，针对它得到的任何文本产生“合理的延续”。LLM只是在玩一个“文字接龙”的游戏。当ChatGPT做一些事情，比如写一篇文章时，它实质上只是在一遍又一遍地询问“根据目前的文本，下一个词应该是什么”，并且每次都添加一个词。（这里说的“词”实际上指的是token，它可能只是词的一部分）每个词的出现有一定的概念，并不会在每次添加词的时候选择概率最高的那个，而是在一定范围内随机选择，否则...LLM语言模型OpenAI发布突破性AI模型o1系列，推理能力大幅跃升重塑行业格局
图片9月13日，人工智能领域的领军企业OpenAI正式对外发布了一系列革命性的AI大模型，命名为o1系列。这一新模型在复杂推理能力方面取得了显著突破，展现出前所未有的问题解决能力，尤其在科学、数学和编程等专业领域表现卓越，引发业界广泛关注。o1系列的首款模型o1preview已在ChatGPT和大模型API中推出。该模型在多项高难度基准测试中表现优异，相较于前代模型GPT4o有质的飞跃。在国际数学奥林匹克（IMO）资格考试中，o1模型正...OpenAIAI模型OpenAIAgno框架介绍：用于构建多模态智能体的轻量库
原创在开发代理式AI时，开发者往往需要在速度、灵活性和资源利用率间反复权衡。本文将向大家介绍Agno——一款用于构建多模态智能体的轻量化框架。其速度号称比LangGraph快上万倍，内存使用量则仅为150。事实上，Agno与LangGraph在使用体验上也有很大区别。本文将以亲身体会为基础对二者进行比较，具体介绍它们的不同之处、各自亮点与Agno的独特优势。概述构建TriSage与MarketingAnalyst营销分析师智能体。如果要求高速、低内存...Agno多模态智能体LangGraph一文汇总：时序预测中的多频率建模方法
频率是时间序列的一个重要信息。给定一个时间序列，可以通过按照不同频率的聚合，获得不同粒度的时间序列。比如，给定的原始时间序列是以小时为粒度的，那么通过将24个点加和成1个点，就可以形成以天为粒度的时间序列数据。不同的粒度，包含的信息也不同。粒度越细，越能体现时间序列的局部特征，同时噪声也更大；粒度越粗，序列更加平滑，反应了时间序列的全局特性，噪声较少，但是也损失了很多信息。由于粒度的粗粒，所有含的...时序预测建模
