人工智能正在推动数据中心走向边缘

人工智能 数据中心
数据中心已成为连接我们数字互联世界的基石。与此同时,人工智能(AI)和机器学习(ML)的快速增长和应用正在影响数据中心的设计和运营。

数据中心已成为连接我们数字互联世界的基石。与此同时,人工智能(AI)和机器学习(ML)的快速增长和应用正在影响数据中心的设计和运营。

与人工智能相关的培训需求正在推动新的芯片和服务器技术以及对极端机架功率密度的需求。

在设计人工智能系统时,训练和推理之间的区别至关重要。训练工作量用于训练人工智能模型,如大型语言模型(LLM)。这些工作负载需要将大量数据馈送到具有加速器处理器的专用服务器。

根据应用程序的需求,推理模型可能会部署在边缘设备或云服务器上,并将之前训练的人工智能模型投入生产,以预测新查询(输入)的输出。

这种对高性能计算的需求增加了对强大服务器、GPU(图形处理单元)和数据中心内其他专业硬件的需求,以支持工作负载。

与此同时,边缘计算的兴起在一定程度上是由人工智能应用推动的,边缘计算使计算资源更接近数据生成的位置。

在实时处理至关重要的场景中,部署边缘数据中心是为了减少延迟并提高人工智能应用程序的性能,比如监控医院患者的行动以确保他们的安全。

支持这些人工智能应用程序的服务器使用先进的人工智能芯片组,通常被称为人工智能加速器。这些芯片组在提高人工智能应用程序在各个领域的性能方面发挥着至关重要的作用。

能源消耗和电力需求

现代数据中心使用高密度服务器和设备,需要更多的处理能力。 这导致能源使用集中在较小的空间,增加了整体能源足迹,这可能会引起人们对处理人工智能操作所需的能源量的担忧。

例如,如果您的 AI 模型正在运行紧急车辆路线,则需要处理高清视频和交通模式,以执行实时操作以疏通交通。

这可能是一个由高速网络边缘人工智能数据中心组成的 IT 网络,可以处理大量数据并提供实时决策和预测。

随着对人工智能的依赖持续,新技术和新工艺将被部署,使人工智能更快、更准确、更高效。

其中一项技术是以边缘人工智能数据中心的形式将压缩模型转移到边缘。 这将使企业能够将应用程序与模型相匹配,并优化性能和能源使用。

数据流量快速增长

自主人工智能代理和决策程序的出现有可能彻底改变业务运营的各个方面。 这些智能程序独立执行任务,适应环境并从中学习。

随着人工智能驱动的自动化程度不断提高,数据中心员工可以自动执行日常任务,减少手动工作量并提高整体效率,因为服务器系统维护或系统监控等职责可以由这些智能程序来处理。

人工智能和数据中心的演变

随着人工智能技术的进步,它将继续影响数据中心的设计和运营。 虽然这些进步带来了效率和创新,但也带来了与能源消耗、电力和冷却系统相关的挑战。

人工智能的不断进步只会继续下去,为了满足这些不断变化的需求,数据中心行业需要适应。

施耐德电气提供有关采用可扩展且灵活的基础设施设计以支持密集型人工智能工作负载的最佳实践指南。 策略包括部署高效、大容量的电源系统和液体冷却系统、48U宽机柜、升级硬件以及数据中心基础设施管理。

责任编辑:华轩 来源: 千家网
相关推荐

2023-04-27 09:44:47

人工智能数据中心

2023-06-15 15:24:28

人工智能数据中心综合布线

2019-03-19 12:46:04

人工智能数据中心运维管理

2023-08-31 16:07:04

2018-02-10 07:59:54

人工智能视频监控监控摄像头

2023-09-07 11:18:26

人工智能数据中心

2023-05-19 10:42:49

数据中心云计算

2023-12-22 15:31:35

人工智能数据中心

2020-05-13 20:40:16

人工智能芯片半导体

2018-12-21 15:15:48

2023-07-26 14:51:26

2023-07-26 10:56:00

人工智能边缘人工智能

2023-08-02 15:22:50

人工智能5G

2024-03-15 10:31:47

2021-08-16 17:15:59

数据中心物联网边缘计算

2024-01-24 11:13:29

数据中心人工智能物联网

2021-03-01 11:42:54

人工智能商业数据

2024-02-26 11:31:33

人工智能数据中心

2017-07-26 16:26:47

数据中心人工智能技术

2023-10-09 15:39:28

人工智能数据中心
点赞
收藏

51CTO技术栈公众号