GPU需求增长但费用高昂,微云服务成为企业新宠

人工智能 云计算
GPU的需求如今呈现出极大的增长,它们对于运行和训练生成式人工智能(GenAI)模型来说至关重要。微云(microclouds)提供的GPU服务可能成为一种可行的替代方案。微云市场规模正在快速增长。

GPU的需求如今呈现出极大的增长,它们对于运行和训练生成式人工智能(GenAI)模型来说至关重要。微云(microclouds)提供的GPU服务可能成为一种可行的替代方案。微云市场规模正在快速增长。CoreWeave、Lambda Labs、Voltage Park和Together AI等企业处于微云市场的最前沿。CoreWeave最初是一家加密货币挖矿企业,如今成功转型成为GPU基础设施的主要提供商。

这种转变揭示了一个更广泛的趋势——企业正日益依赖于云托管的GPU服务。这一转变的驱动因素主要包括安装和维护硬件的高昂成本以及复杂的技术要求。由于公有云提供商通常不会对这些计算服务提供更多的折扣,微云为许多企业提供了更加灵活、经济高效的解决途径。

为什么一些企业不再坚持使用AWS、谷歌云和微软Azure提供的传统云服务?而这些服务也提供了一系列GPU资源。其答案是“成本”。对于需要采用GPU的AI项目来说,微云通常是更具成本效益的一种解决方案。与Azure或谷歌云相比,企业在CoreWeave或其他微云平台上租用主流的GPU(例如Nvidia A100 40GB)可以显著降低成本。

企业采用微云仍需谨慎

尽管微云行业发展充满活力,但其未来前景仍然存在一定的不确定性。微云供应商保持业务增长取决于能否确保GPU的持续供应以及维持具有竞争力的价格。此外,随着全球主要云计算提供商投资于定制的AI处理硬件,市场竞争压力可能会进一步加剧,大型云计算提供商将通过降低价格和提升服务质量以保持竞争力。

此外,虽然GPU目前更适合生成式AI任务,因为它们的运行速度和同时处理许多事情的能力,但并非所有AI工作负载都需要采用GPU。大多数GenAI工作负载并不需要如此强大的GPU性能。如今,它们往往更像是一种身份象征,而非必需品。

CPU仍然在处理对时间要求不太严格的任务中发挥着重要作用,这些任务通常可以容忍较低的处理速度。芯片厂商正在积极研发一些具有发展前景的新型GPU,它们可能将以更低的成本为生GenAI提供更加高效的处理能力。

使用任何资源(包括处理器)的核心目标都是“少花钱,多办事”。对于大多数AI用例来说,其高昂的成本将使许多企业从AI的炒作中回归现实。

微云的美好未来

对于那些可能被炒作蒙蔽双眼的企业来说,这是一个值得警惕的消息。从微云的近期发展来看,其市场呈现出乐观的态势。分析人士预计,新兴的GenAI领域将继续推动对微云的需求,这为更多以GPU为中心的AI云初创公司提供强大的发展动力。

对于需要GPU支持的项目,企业应该优先考虑能够充分利用GPU的解决方案,因为成本不是这些架构选择的主要决定因素。

微云提供商可能会对传统云计算提供商带来显著的竞争压力,特别是对于那些寻求采用更新、更经济的技术来管理其多云环境的客户而言。许多企业正在面临云计算成本高昂的挑战,这些成本往往超出了他们的预算。因此,更为经济实惠的替代品在市场上更受欢迎。

大约20年前,主要参与者开始在云计算市场崭露头角。在2012年到2016年期间,随着云计算市场的逐步成熟和规范,原本数十家云计算提供商最终只剩下几家具有显著竞争优势的云巨头。

任何新兴的云计算提供商都有很多顾虑。他们可能会面临资金短缺和市场竞争的压力,或者经历无法预见的挑战和灾难。这些公司在未来很可能被更大的云计算提供商收购,虽然在收购和整合过程可能会带来一些困扰和挑战,但大多数公司都能实现更大的发展。因此,微云的未来前景依然光明,将会发挥更加重要的作用。

责任编辑:庞桂玉 来源: 极客网
相关推荐

2016-05-27 14:45:48

搜索

2013-04-02 09:23:25

开源虚拟化服务器虚拟化

2011-03-14 11:16:11

2011-07-11 16:12:05

Android应用开发

2010-07-13 10:39:57

虚拟化

2010-07-19 10:58:07

数据中心规模

2009-10-14 08:37:26

Windows 7芯片市场

2010-05-04 11:58:01

IPv4

2018-08-09 14:42:15

PCGeForce 11成本

2020-10-14 10:04:52

首席数据官首席信息官数据

2011-09-16 17:02:15

云存储时代

2022-06-01 13:57:05

区块链NFT游戏

2020-04-23 10:52:39

网络通信统一通信UC

2012-04-17 09:21:12

企业IT运维服务

2009-12-25 17:17:50

VDSL技术

2024-01-18 10:32:25

存储2024年预测

2018-03-13 10:47:43

2022-03-16 09:40:30

深度学习算法模型

2013-09-10 10:08:41

部署GPU服务器

2015-09-24 10:00:26

Gartner托管私有云外包服务
点赞
收藏

51CTO技术栈公众号