51CTO内容精选
LV.6
官方
汇聚51CTO网站AIGC方向的优秀原创和译文内容
声望 1157
关注 0
粉丝 2
私信
主帖 75
回帖
如果使用得当,LLMLingua可以降低使用高级LLM的成本,并使更广泛的用户和应用程序可以使用LLM。像GPT4和Claude这样的大型语言模型(LLM)可以通过良好的提示工程学习新任务。然而,较长的提示会增加使用这些模型的成本,并且还会减慢它们的运行速度。LLMLingua是微软公司开发的一项新技术,通过消除无关部分来压缩提示。值得注意的是,LLMLingua可以在不影响模型响应质量的情况下将提示的规模压缩高达20倍。如果使用得当,LLMLing...
9h前 48浏览 0点赞 0回复 0收藏
​你可能已听说过LLM强势亮相,至少ChatGPT就是代表。大语言模型(LLM)指语言处理模型。这类模型经过训练,可以执行各种各样的语言任务:翻译、文本生成和问题回答等。有几个LLM家族和架构,最著名的是GPT(生成式预训练Transformer)。每种LLM都有各自的特定功能,但本文侧重介绍LLM普遍固有的安全问题。随着越来越多的公司集成LLM以增强用户体验或简化和加速内部流程,这种类型的集成特有的新漏洞随之出现。我们在本文中将介绍与...
3天前 121浏览 0点赞 0回复 0收藏
多模态AI的应用范围正在不断扩大,那么究竟什么是多模态AI?它又是如何运行的?生成式AI在短短几年内取得了长足的进步,从基本的文本响应发展到复杂的散文。随着多模态AI(MultimodalAI)的发展,这项技术的界限正在进一步扩大。如今,多模态AI正在涉足从医疗保健到机器人等多个行业。谷歌、OpenAI、Anthropic和Meta等科技巨头也纷纷推出了自己的多模态AI模型。什么是多模态AI?多模态AI是指同时利用各种类型(或模式)数据形成...
4天前 138浏览 0点赞 0回复 0收藏
通过本文,你将了解如何借助开源库AutoGloon成功胜出Kaggle竞赛并学习击败其他对手的技巧。此外,你还会了解到基于AutoGloon框架仅需4行代码足可以击败99%的数据科学家。引言在两项受欢迎的Kaggle比赛中,AutoGloon仅在对原始数据进行了4小时的训练后就击败了99%的参赛数据科学家(AutoGloon团队,《AutoGloon:将AutoML用于文本、图像和表格数据》,2020年)。上面这句话摘自AutoGloon的研究论文(https:arxiv.orgabs2003.06505)...
5天前 162浏览 0点赞 0回复 0收藏
大型语言模型带来了操纵、网络攻击和无意的自我完善等风险,而保护措施正在开发中。大型语言模型(LLM)的快速发展激发了人们的广泛兴趣,也带来了一些风险,虽然它们的潜力巨大,但滥用和意外后果的可能性也很大。了解这些强大的人工智能系统带来的风险对于制定有效的保障措施至关重要。以下是人工智能和LLM可能失控的10种方式,重点介绍了风险、可能性、检测方法和潜在的保护策略。1.操纵大师:说服和欺骗风险LLM可以通过复杂的...
6天前 209浏览 1点赞 1回复 0收藏
本文首先介绍Meta公司开发的开源图像分割模型SAM的架构,然后通过一个河流像素分割遥感任务的实战案例展示SAM模型应用开发涉及的关键技术与模型优势。引言当前,许多强大的开源基础模型的发布,加上微调技术的不断进步,已经带来了机器学习和人工智能的新范式。整体来看,这场革命的核心在于转换器模型(https:arxiv.orgpdf1706.03762)。虽然除了资金充足的公司之外,所有公司都曾经无法获得高精度的特定领域模型;但是如今,...
7天前 188浏览 0点赞 0回复 0收藏
本文介绍了使用FastAPI和Docker生成一个随时可用的HuggingFace模型。​想象一下,利用HuggingFace模型来确定评论的情绪。在过去,第一步是制作这样一个模型,并确保它正常工作。然而,今天的预训练模型让我们只需花很少的精力,就能准备好这样的大语言模型(LLM)。一旦我们准备好使用这个模型,主要目标是让公司的同事能够使用这个模型,而不需要下载或从头开始实现它。为此,我们将创建一个端点API,使用户能够独立地调用和使用...
2024-07-12 09:31:13 248浏览 0点赞 0回复 0收藏
本文使用YOLOv8模型,并借助开源Ultralytics框架和BoTSORT跟踪器,实现了对树上漫步的蚂蚁进行计数。简介计算视频中的物体是一项具有挑战性的计算机视觉任务。与静态图像中的物体计数不同,视频信息涉及额外的复杂性,因为物体可能在不同的时间移动、被遮挡或出现和消失,这使得计数过程变得更为复杂。在本教程中,我们将演示如何使用对象检测和跟踪技术来计数沿着树移动的蚂蚁。具体地说,我们将利用开源的Ultralytics平台,并...
2024-07-11 08:24:53 271浏览 0点赞 0回复 0收藏
您可以在不使用互联网的情况下,利用智能手机上LLM的强大功能,最大限度地加强隐私和控制。大语言模型(LLM)需要大量的计算资源,这些资源通常局限于功能强大的服务器。然而,新一代的紧凑模型让您可以直接在智能手机上运行这些强大的语言模型。有意思的是,您不需要互联网就可以在智能手机上使用LLM。下面这六种开源LLM经训练和优化后,可以在智能手机上使用。Gemma2B:谷歌针对移动语言任务的紧凑型高性能LLM。Phi2:微软的小...
2024-07-10 08:42:02 311浏览 0点赞 0回复 0收藏
译者李睿审校重楼生成式人工智能(GenAI)是当今科技界的一个热门话题。它是人工智能的一个子集,专注于创造新的内容,例如文本、图像或音乐。GenAI组件的一种流行类型是大型语言模型(LLM),它可以根据提示生成类似人类的文本。检索增强生成(RAG)是一种基于外部知识来源来提高生成式人工智能模型准确性和可靠性的技术。虽然大多数GenAI应用程序和相关内容都以Python及其生态系统为中心,但如果采用Java编写GenAI应用程序应该怎么...
2024-07-08 20:58:32 267浏览 0点赞 0回复 0收藏
译者布加迪审校重楼基于语音的生成式AI助手正在悄然改变我们与技术交互的方式,取得了微妙而又重大的进步。这些AI助手不再只是响应命令,而是变得更直观简单、更有同理心,还能够理解复杂的人类情感和环境。虽然进展似乎是渐进式的,但AI助手的功能在迅速增强。本文深入介绍了几款领先的基于语音的生成式AI助手。1.GPT4o首先,OpenAI的GPT4o更先进,更有能力创建拥有众多功能的复杂应用程序,这证明了它的“发展”程度更高,能...
2024-07-08 09:57:50 198浏览 0点赞 0回复 0收藏
译者李睿审校重楼知识存储和检索正在成为大型语言模型(LLM)应用的重要组成部分。虽然检索增强生成(RAG)在该领域取得了巨大进步,但一些局限性仍然没有克服。俄亥俄州立大学和斯坦福大学的研究团队推出了HippoRAG,这是一种创新性的检索框架,其设计理念源于人类长期记忆系统中的海马索引理论。HippoRAG的引入使大型语言模型(LLM)应用程序能够更有效地集成动态知识,并更快、更准确地检索重要信息。HippoRAG在多跳(multihop)...
2024-07-04 20:25:11 286浏览 0点赞 0回复 0收藏
译者朱先忠审校重楼引言“将你的企业数据转化为可用于实际生产环境的LLM应用程序,”​​LlamaIndex主页​​​用60号字体这样高亮显示。其副标题是“LlamaIndex是构建LLM应用程序的领先数据框架。”我不太确定它是否是业内领先的数据框架,但我认为它是一个与​​LangChain​​​和​​SemanticKernel​​一起构建大型语言模型应用的领先数据框架。LlamaIndex目前提供两种开源语言框架和一个云端支持。一种开源语言是Python;另...
2024-07-03 22:28:19 336浏览 0点赞 0回复 0收藏
译者李睿审校重楼大型语言模型(LLM)已经证明是一种非常宝贵的思考工具。经过大量文本、代码和其他媒体数据集的训练,它们能够创作出接近人类水平的文章、翻译语言、生成图像,还能以信息丰富的方式回答人们提出的问题,甚至可以编写不同类型的创意内容。但是,尽管它们功能强大,即使是最先进的LLM也有一个基本的限制:知识的时效性。它们所“知道”的一切知识都是由所接受的训练数据决定的,这使它们无法适应新的信息,也无...
2024-07-03 10:03:31 608浏览 0点赞 0回复 0收藏
译者布加迪审校重楼之前我介绍了如何使用OpenAI最新的LLMGPT4o,通过函数调用将实时数据引入到​​LLM​​。在这篇后续文章中我将介绍使用Hermes2ProLlama38B进行函数调用,这是一种由NousResearch开发的功能强大的LLM,基于Meta的Llama3架构,有80亿个参数。它是开放模型,我们将在HuggingFace的文本生成推理上运行它。我们将把Fightaware.com的API与该LLM集成起来,以便实时跟踪航班状态。FlightAware的AeroAPI是开发人员获取...
2024-07-02 10:52:46 240浏览 0点赞 0回复 0收藏
译者朱先忠审校重楼引言大型语言模型(LLM)的世界正在不断发展,新的进步正在迅速出现。一个令人兴奋的领域是多模态LLM(MLLMs)的发展,这种模型既能够理解文本又能够理解图像,并与之进行交互。因此,这种多模态模型的出现将为文档理解、视觉问答等任务打开一个新的可能性的世界。我最近写了一篇关于这种模型的文章​​《微软最新的Phi3视觉语言模型的6种现实应用》​​(6RealWorldUsesofMicrosoft’sNewestPhi3VisionLangu...
2024-06-30 23:04:11 308浏览 0点赞 0回复 0收藏
译者布加迪审校重楼如今,许多开发人员和产品团队使用生成式人工智能(GenAI)代理来帮助构建软件或应用程序——真正的创新出现在多代理系统上。就像管弦乐队可以演奏出丰富复杂的交响乐,独奏音乐家只能在一个维度发出声音,多代理系统不仅限于以任务为导向的角色,真正助力开发和战略团队。比如说,梅奥诊所、沃达丰和ADT等不同公司的开发人员使用谷歌的GenAI代理构建器在多代理环境中创建应用程序。使用多代理系统(下面会详...
2024-06-27 21:10:48 356浏览 0点赞 0回复 0收藏
译者布加迪审校重楼无论你是软件开发新手还是拥有几十年的丰富经验,总是需要学习新知识。TIOBEIndex追踪50种最受欢迎的编程语言,许多生态系统为职业发展和横向转型提供了机会。鉴于现有技术具有的广度,抽空学习一项新技能并有效运用技能可能困难重重。最近我一直在尝试学习Rust语言,这是一种注重性能、可靠性和生产力的类型安全语言。我在此过程中学到了使用AI编程助手的若干技巧,想与你分享,以改善你的学习体验。文章最...
2024-06-26 19:49:07 288浏览 0点赞 0回复 0收藏
LLM原生开发路线图指南
原创
头条 社区头条
译者朱先忠审校重楼引言大型语言模型(LLM)正在迅速成为现代人工智能的基石。然而,目前还没有出现公认的最佳实践,而且先驱们往往没有明确的开发路线图。因此,这种状况急需要有人重新发明有关轮子;否则,将会使人陷入困境。在过去的两年里,我帮助一些组织利用LLM构建了创新型应用程序。通过这次经历,我开发了一种经得住考验的方法来创建创新型LLM应用解决方案(受LLM.org.il社区的启发而形成),我将在本文中与大家共同分...
2024-06-25 21:36:50 291浏览 0点赞 0回复 0收藏
译者陈峻审校重楼引言:本文解读了一份最新研究成果,提供了一些有关软件工程师如何在软件工程中使用ChatGPT的任务类型、以及影响其使用体验等方面的重要因素与推断。自ChatGPT发布以来,上至企业、下到软件工程师都在致力于寻找如何通过使用大语言模型(LLM),来提高工作效率的方法。虽然大多数LLM都能够为复杂的问题生成代码示例,但是具体如何将其集成到软件开发环境的过程,却各有不同。在最近的一项​​研究​​中,来自...
2024-06-24 21:13:42 294浏览 0点赞 0回复 0收藏
获得成就
已积累 9045 人气
获得 3 个点赞
获得 1 次收藏