社区编辑申请
注册/登录
炼丹速度×7!你的Mac电脑也能在PyTorch训练中用GPU加速了
人工智能 新闻
Pytorch官方宣布,其最新版v1.12可以支持GPU加速了。

本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。

一直以来,Pytorch在Mac上仅支持使用CPU进行训练。

就在刚刚,Pytorch官方宣布,其最新版v1.12可以支持GPU加速了。

只要是搭载了M1系列芯片的Mac都行。

这也就意味着在Mac本机用Pytorch“炼丹”会更方便了!

训练速度可提升约7倍

此功能由Pytorch与Apple的Metal工程团队合作推出。

它使用Apple的Metal Performance Shaders(MPS) 作为PyTorch的后端来启用GPU加速训练。

为了优化计算性能,MPS还针对Metal GPU系列的独特特性对每个内核进行了微调。

Metal是一个类似OpenGL的框架,只不过OpenGL适用于各平台的移动端GPU渲染和计算,Metal专用于iOS/MacOS平台,不过也兼顾了性能和易用性。

MPS就是一套基于Metal框架的库,直接调用即可使用GPU的高性能进行图形处理、构建卷积神经网络等工作。

苹果官方在搭载了M1 Ultra、20核CPU、64核GPU、128GB RAM和2TB SSD的Mac Studio上进行了测试。

(这阵容差不多能算是豪华配置了)。

他们分别训练了batch size为128的ResNet50、batch size为64的HuggingFace BERT,以及batch size=64的VGG16

从下图中我们可以发现,相比使用CPU加速,使用GPU可将模型训练速度提高约7倍,评估(evaluation)速度则最高能提约20倍。

看到这儿,有网友开始好奇它与搭载了Nvidia GPU的laptop相比性能如何。

有人表示,虽说目前M1的原始计算性能比不上英伟达的产品,但功耗方面还不错。未来苹果很有可能慢慢追上性能。

总的来说,Mac Studio现在看起来实在太香了

他进一步解释道:

“毕竟它是你花4800美元就能买到的最便宜、包含128GB GPU内存的机器。现在有了基于GPU加速的PyTorch支持,完全可以用来训练大模型、配置大的batch size。

对于我所做的那种DL工作,数据加载比实际的原始计算能力更容易成为瓶颈。”

你心动了吗?

现在就试试?

只需保证你的macOS操作系统在12.3版本及以上,且安装了arm64原生Python,然后去官网下载最新的Pytorch预览版就可以了。

地址:
https://pytorch.org/blog/introducing-accelerated-pytorch-training-on-mac/

责任编辑:张燕妮 来源: 量子位
相关推荐

2022-07-03 14:07:04

2022-04-17 23:09:07

深度学习人工智能芯片

2022-05-23 13:17:32

Linux开源NVIDIA

2022-05-24 07:51:05

测试模型测试单元测试

2022-05-07 15:52:02

训练框架异构

2022-04-27 11:02:56

DPU芯片CPU

2022-04-25 20:52:22

UbuntuLinux

2022-04-13 14:04:14

锐捷

2022-02-23 10:56:16

GPU硬件算力产品

2022-04-27 12:35:42

Unity7桌面环境Ubuntu

2022-04-12 09:05:30

Linux时钟

2022-03-26 18:49:29

芯片显卡

2021-03-07 09:05:45

Pytorch机器学习神经网络

2022-03-28 10:41:10

数字人技术元宇宙

2019-09-02 14:58:03

深度学习编程人工智能

2020-11-30 12:32:40

PyTorch语义分割python

2020-06-04 12:55:44

PyTorch分类器神经网络

2022-07-05 09:24:01

Pandas表格样式Python

2022-06-23 15:48:02

AI开源GitHub

2013-01-14 15:41:27

Android模拟器教程配置

同话题下的热门内容

新出生的机器狗,打滚1小时后自己掌握走路,吴恩达大弟子成果在我的世界中,B站UP主搭建世界首个纯红石神经网络,图灵奖得主Yann LeCun转赞从机器学习中受益最大的四个行业2022年Nature年度指数出炉,涨幅最快50机构,中国占31席!科技巨头几百亿研发AI被质疑吹嘘:曾击败人类的AI要被卖了芯片巨头正在偷偷研发这些新AI技术,不比拍照有意思人工智能在网络安全中的作用人工智能技术在语言学领域的应用

编辑推荐

转转公司架构算法部孙玄:AI下的微服务架构Facebook开源相似性搜索类库Faiss,超越已知最快算法8.5倍运维:对不起,这锅,我们不背快消品图像识别丨无人店背后的商品识别技术最全面的百度NLP自然语言处理技术解析
我收藏的内容
点赞
收藏

51CTO技术栈公众号