AI.x社区
- 登录/注册
默认
发布时间
热度
原创
精华
加州大学伯克利分校等发表的RouteLLM：利用偏好数据学习路由大语言模型
一、结论写在前面论文标题：RouteLLM:LearningtoRouteLLMswithPreferenceData论文链接：https:arxiv.orgpdf2406.18665v2LLM在广泛的任务中展现出令人印象深刻的能力，然而在选择使用哪个模型时，往往需要在性能和成本之间做出权衡。更强大的模型虽然有效，但成本更高，而能力较弱的模型则更具成本效益。为了解决这一难题，论文提出了几种高效的路由模型，这些模型在推理过程中动态选择更强大或较弱的LLM，旨在优化成本...RouteLLM数据语言模型LLama2详细解读 | Meta开源之光LLama2是如何追上ChatGPT的？
一、概述Title:Llama2:OpenFoundationandFineTunedChatModels论文地址：Llama2:OpenFoundationandFineTunedChatModels代码：https:github.comfacebookresearchllama官网：https:ai.meta.comllama1Motivation开源的LLMchat模型效果还不太好，还没一个开源大模型能和闭源模型（例如chatgpt）能比的。ChatGPT是闭源的，LLM的有用性和安全性如何改进这一类论文还不是特别多。2Methods2.1整体架构总结1:参考Instruct...LLama2ChatGPT安全性TensorRT模型推理加速实践
一、TensorRT简介TensorRT是由C++、CUDA、python三种语言编写成的库，有助于在NVIDIAGPU上进行高性能推理。基于目前主流的深度学习框架得到的模型都可通过TensorRT实现推理加速。图1TensorRT转换过程2021年7月，NVIDIA发布了TensorRT8.0版本，新版本极大提升了Transformers结构的推理新能。TensorRT性能优化主要依赖下面两种方式：1、权重与激活精度校准：在推理中使用FP16或者INT8精度计算，通过降低计算精度，提高计算效率，...模型tensorRT硬件如何高效定制视频扩散模型？卡内基梅隆提出VADER：通过奖励梯度进行视频扩散对齐
论文链接：https:arxiv.orgpdf2407.08737git链接：https:vadervid.github.io亮点直击：引入奖励模型梯度对齐方法：VADER通过利用奖励模型的梯度，对多种视频扩散模型进行调整和对齐，包括文本到视频和图像到视频的扩散模型。广泛使用预训练视觉模型：该方法涵盖了多种预训练视觉模型，以提高对不同任务的适应能力和性能。内存使用优化技巧：VADER提出了多种技巧，有效改善内存使用效率，使得可以在单个16GBVRAM的GPU上进行训练...模型训练AI工程中面临的开放挑战
我昨天在AI工程师世界博览会上发表了开幕主题演讲。我是临时加入议程的：OpenAI在最后一刻退出了他们的演讲，我受邀在不到24小时的通知时间内准备一个20分钟的演讲！我决定重点讲述自8个月前上次AI工程师峰会以来LLM（大语言模型）领域的亮点，并讨论该领域的一些未解决的挑战——这是我在早些时候的活动中提出的关于AI工程的开放问题演讲的回应。在过去的8个月里，发生了很多事情。最值得注意的是，GPT4不再是该领域无可争议的...AI工程LLMOpenAI发布PVG：用小模型验证大模型输出，解决“黑盒”难题
精华为了解决这个难题，OpenAI提出了全新训练框架ProverVerifierGames（简称“PVG”），例如，用GPT3这样的小模型来验证、监督，GPT4大模型的输出，从而提升输出准确率以及可控性。OpenAI论文地址：https:cdn.openai.comproververifiergamesimprovelegibilityofllmoutputslegibility.pdf其实PVG技术概念早在2021年8月的一篇论文中就被提出来，OpenAI也正是受此灵感启发。这是一种基于博弈论的训练方法，通过模拟证明者和验证者之间...GPT-4模型多模态AI：概念、用例、优势、挑战及发展未来
原创多模态AI的应用范围正在不断扩大，那么究竟什么是多模态AI？它又是如何运行的？生成式AI在短短几年内取得了长足的进步，从基本的文本响应发展到复杂的散文。随着多模态AI（MultimodalAI）的发展，这项技术的界限正在进一步扩大。如今，多模态AI正在涉足从医疗保健到机器人等多个行业。谷歌、OpenAI、Anthropic和Meta等科技巨头也纷纷推出了自己的多模态AI模型。什么是多模态AI？多模态AI是指同时利用各种类型（或模式）数据形成...生成式AI多模态AIAGI微软野心再现：对Excel和谷歌Sheet下手了！
编辑星璇出品51CTO技术栈（微信号：blog51cto）微软团队在办公领域有着很强的“AI霸者”的野心。近日，微软最新公布的研究论文，正在计划为Excel、谷歌Sheets等电子表格应用程序，开发全新的AI大语言模型SpreadsheetLLM。图片研究人员表示现有电子表格应用程序具备丰富的功能，在布局和格式方面为用户提供大量的选项，因此传统AI大语言模型很难胜任电子表格处理场景。图片而SpreadsheetLLM就是专门为电子表格应用而设计的AI模型...微软ExcelSheet清华大学提出视频去模糊领域适应方案，硬盘里的珍藏电影可以更清晰了
精华引言：视频动态场景中的模糊问题及其挑战这篇论文主要研究了动态场景视频去模糊技术，旨在消除拍摄过程中产生的不想要的模糊瑕疵。然而，尽管之前的视频去模糊方法取得了显著的成果，但由于训练和测试视频之间的域差距，导致在真实世界场景中的表现大幅下降。为了解决这个问题，作者提出了一种基于模糊模型的域自适应方案，通过测试时的模糊来实现去模糊模型在未知域的微调。首先，作者提出了一个相对清晰度检测模块，用于从模...视频硬盘动态场景与Sora同架构，高效、连贯文生视频模型
Snap、特伦托大学、加州大学和布鲁诺凯斯勒基金会的研究人员，联合推出了高效、连贯一致性文生视频模型——SnapVideo。SnapVideo与OpenAI最新推出的Sora一样采用Transformer架构，结合了时空压缩表示、全局联合时空建模以及自适应建模等功能，在生成的视频质量、视频动作一致性、复杂动作表现等方面非常棒。除了文本生成视频之外，SnapVideo还能根据文本提示对原始视频素材进行剪辑和合成，生成特殊需求的定制化视频，这对于短...AI模型哪些基于 LLMs 的产品值得开发？从用户体验和市场接受度的角度探讨
原创 精华编者按：在大语言模型（LLMs）相关技术高速发展的今天，哪些基于LLMs的产品真正值得我们投入精力开发？如何从用户体验和市场接受度的角度评估这些产品的潜力？今天为大家分享的这篇文章，作者的核心观点是：优秀的产品应该将GenAI无缝集成到现有工作流中，引入AI不仅要能为用户提供高价值、变革性的体验，同时还需兼顾用户的使用习惯，最好不要增加用户的学习成本。正如本文所强调的，在追求技术创新的同时，我们不应忘记用户的...AIGenAI产品白海科技GraphRAG项目雨后春笋般涌现！
近期RAG这块比较火热的方向当属GraphRAG，微软GraphRAG项目自2024.7.3日开源以来，两周内，收获10.9k星星，可见其火热，同时，它既不是第一个也不会是最后一个开源的GrapRAG项目：2024.3.15日LangChain发布GraphRAG实战教程https:www.llamaindex.aiblogintroducingthepropertygraphindexapowerfulnewwaytobuildknowledgegraphswithllms2024.6.24日蚂蚁首个开源GraphRAG框架蚂蚁首个对外开源的GraphRAG框架采用全自主的开源产品...GraphRAG项目微软用维特根斯坦的哲学视角看生成式语言模型与意识的挑战
精华对话智能体是能够与用户进行自然语言交流的计算机程序，常见的例子包括OpenAI的ChatGPT、Anthropic的Claude和Google的Gemini等。这些对话智能体不仅能够回答用户的问题，还能进行复杂的对话，甚至在某些情况下表现出类似人类的行为。生成式语言模型的核心在于其预测下一个词（或称为“token”）的能力。通过对大量文本数据的训练，这些模型能够生成连贯且有意义的文本。这种能力使得它们在各种应用中表现出色，从自动写作到客户...语言模型哲学视角维特根斯坦彻底理解GPT tokenizers
你可能已经听说过GPT这个词，它是一种人工智能模型，可以生成各种各样的文本，比如小说、诗歌、对话、新闻等等。GPT的全称是GenerativePretrainedTransformer，意思是生成式预训练变换器。生成式表示它可以根据一些输入（比如一个单词或一句话）来创造新的内容，预训练表示它在使用之前已经在大量的文本数据上进行了学习，变换器表示它使用了一种叫做Transformer的神经网络结构。要理解GPT的工作原理，我们需要先了解一个重要的...GPT工具GPT-4时间序列预测+NLP大模型新作：为时序预测自动生成隐式Prompt
今天给大家介绍一篇最新的大模型+时间序列预测工作，由康涅狄格大学发表，提出了一种将时间序列在隐空间和NLP大模型对齐，并利用隐空间prompt提升时间序列预测效果的方法。论文标题：S2IPLLM:SemanticSpaceInformedPromptLearningwithLLMforTimeSeriesForecasting下载地址：https:arxiv.orgpdf2403.05798v1.pdf1.问题背景大模型在时间序列上的应用越来越多，主要分为两类：第一类使用各类时间序列数据训练一个时间序列领域自己...时间序列预测AutoML领域开源开发利器AutoGloon之实战演练
原创通过本文，你将了解如何借助开源库AutoGloon成功胜出Kaggle竞赛并学习击败其他对手的技巧。此外，你还会了解到基于AutoGloon框架仅需4行代码足可以击败99%的数据科学家。引言在两项受欢迎的Kaggle比赛中，AutoGloon仅在对原始数据进行了4小时的训练后就击败了99%的参赛数据科学家(AutoGloon团队，《AutoGloon：将AutoML用于文本、图像和表格数据》，2020年)。上面这句话摘自AutoGloon的研究论文(https:arxiv.orgabs2003.06505)...AutoGloonAutoML机器学习从零实现大模型-GraphRAG，构建LLM中的关系数据库
原创传统RAGLLM预训练和微调一般都是基于公开的互联网数据，不可能包含公司内部私有数据，如果你问有关某公司的运营情况，直接基于模型参数生成的回答可能和胡说八道没什么两样。RAG（RetrievalAugmentedGeneration）的思想就是将私有数据作为参考信息传递给LLM。这些私有数据除了作为一种补充信息，也可以作为一种限制，能避免LLM产生幻觉。参考信息一般以文本、图片等非结构化形式存在。RAG的流程是：1.首先要将文本划分成片段，...RAGGraphRAGLLM大模型训练完成之后可以直接使用吗？该怎么使用训练好的大模型？
原创学习机器学习的人大部分都知道怎么设计并训练一个模型，但开发模型的目的是为了解决业务问题，所以怎么使用大模型也是重中之重。刚训练好的大模型事实上虽然可以用，但由于没有用户接口，所以只能自己用，无法对外提供服务；所以，刚训练好的大模型需要经过一些处理才可以使用，包括数据预处理，接口开发等。huggingface官网地址：https:huggingface.comodels需科学上网01、大模型加载与保存训练一个大模型，在训练完成之后最重...模型人工智能打造智能私有知识库：开源工具AnythingLLM全解析及实操指南，RAG企业级解决方案
原创在数据安全和隐私保护日益受到重视的背景下，私有化部署大模型的需求日益增长。MintplexLabsInc.推出的开源项目AnythingLLM，为个人和企业提供了一种安全、高效且可定制的解决方案。该工具基于RAG（RetrievalAugmentedGeneration）模型，允许用户将本地文档转换为可由大型语言模型（LLM）引用的格式，实现对话式问答和知识管理。一、AnythingLLM的主要功能多用户支持与权限管理：支持多用户同时访问，并可设置不同权限。文档管...RAG知识库开源如何评估大语言模型生成结果的多样性
1、论文的背景关于大型语言模型(LLM)的一个开放性问题是，这些模型从预训练数据中学习了哪些模式，以及这些模式是否能够在下游任务和数据集中普遍适用。虽然先前的研究主要集中在生成质量上，最近也开始关注文本生成的新颖性，但对LLM学习到的模式类型的特征描述还很有限。关于评估大型语言模型(LLM)生成文本多样性的研究主要集中在词级特征上。本文提供了一种句法特征分析方法，用以描述模型中的普遍重复现象，超越了ngram的...大语言模型多样性
