为什么我用Go写机器学习部署平台,而偏偏不用Python?

新闻 机器学习
虽然在机器学习中,Python已经无孔不入。但Python并不是全能之神手中的魔杖可以为所欲为。

 ä¸ºä»€ä¹ˆæˆ‘用Go写机器学习部署平台,而偏偏不用Python?

虽然在机器学习中,Python已经无孔不入。但Python并不是全能之神手中的魔杖可以为所欲为。很多情况下其实用Python的效果并不如其他语言,比如Go更好,甚至可能更糟。本文介绍了为什么在作者的工作环境下选择Go而非Python的理由,引发社区关注和热议。

编程语言就是一个江湖,永远有人觊觎霸主的位子。

 

Python如今却稳坐编程语言界的霸主,尤其是在机器学习领域,所有主流机器学习框架都在用Python。

 

然而即使是被绝大多数人认可的Python,也并非真的无所不能,也有让其无能为力、无中生有的情况。

 

Python引以为豪的机器学习算法,只是机器学习系统的一个组成部分。要实际大规模运行生产机器学习API,还需要实现以下功能的基础架构:

 

自动缩放,以便流量波动不会破坏您的APIAPI管理,以处理的API部署滚动更新,以便您可以在更新模型的同时仍为用户提供服务

 

对于像Cortex这样的开源机器学习部署平台,旨在使所有这些基础架构自动化,以及日志记录和成本优化等其他方面的关注,作者Caleb Kaiser认为相比Python而言,Go更合。

 

相比于出身寒门、一个应届生的圣诞节无聊之作的Python,Go语言出自Google,作者是三位宗师级人物:Rob Pike、Ken Thompson 和 Robert Griesemer。在以下方面超越了Python:

 

并发对于机器学习基础架构至关重要

用户可以将许多不同的模型部署为不同的API,所有模型都在同一个Cortex集群中进行管理。

 

为了让Cortex Operator能够管理这些不同的部署,需要纠缠一些不同的API。

 

Cortex调用Kubernetes API在集群上部署模型;同时也需要考虑各种AWS API(EC2 Auto Scaling,S3,CloudWatch等)

 

用户不会直接与任何这些API进行交互,取而代之的是,Cortex以编程方式调用这些API来供应集群,启动部署和监视API。

 

以一种有效,可靠的方式进行所有这些重叠的API调用是一个挑战。

 

同时处理它们是最有效的处理方式,但同时也引入了复杂性,因为现在我们不得不担心诸如竞赛条件之类的事情.Go有一个优雅的,开箱即用的解决方案来解决这个问题:Goroutines。

 

Goroutines是正常的Go并发执行的功能。许多Goroutine可以放在一个OS线程上,如果Goroutine阻塞了OS线程,则Go运行时会自动将其余Goroutines移至新的OS线程。

 

Goroutines还提供了一个称为“通道”的功能,允许Goroutines执行在彼此之间传递消息,使我们能够调度请求并避免出现竞争情况。

 

使用asyncio等最新工具在Python中实现所有这些功能可能是可行的,但是Go的设计充分考虑了这种用例,这一事实使我们的生活变得更加轻松。

 

在Go中构建跨平台CLI更容易

Cortex CLI是一种跨平台工具,允许用户直接从命令行部署模型和管理API。

 

下面的GIF显示了正在使用的CLI:

事实证明,Python编写的CLI尝试在各种平台之间分发太困难了。

 

因为Go可以编译成一个二进制文件(不需要依赖管理),所以它为我们提供了一个在平台之间分发CLI的简单解决方案,而无需进行过多的工程工作。经过编译的Go二进制文件和解释型语言的性能优势也很明显。

 

根据计算机基准测试游戏,Go的运行速度比Python快得多。许多其他基础结构CLI工具都是用Go编写的,这并非巧合,这使我们进入了下一步。

 

Go生态系统非常适合基础设施项目

开源的好处之一是,您可以从自己欣赏的项目中学习。 例如,Cortex存在于Kubernetes(本身用Go编写)生态系统中。 我们很幸运能够在该生态系统中学习到许多出色的开源项目,其中包括:

 

  • kubectl:Kubernetes的CLI
  • minikube:一种在本地运行Kubernetes的工具
  • helm:Kubernetes程序包经理
  • kops:用于管理生产Kubernetes的工具
  • eksctl:Amazon EKS的官方CLI

 

以上所有内容都是用Go语言编写的,而不仅仅是Kubernetes项目。

 

无论你是在看CockroachDB还是Hashicorp的基础设施项目,包括Vault,Nomad,Terraform,Consul和Packer,它们都是用Go编写的。

 

Go在基础设施领域的流行还有另一个影响,这就是大多数工程师都感兴趣!在基础架构方面工作的人对Go很熟悉,这使得吸引工程师更加容易。

 

用Go是一种乐趣

相对于Python,Go入门起来有点痛苦,但这是指暂时的。一旦你跨越了门槛,进入Go的世界里,你会发现简直是“一马平川”。

 

Go宽容的性格使它对于大型项目而言如此令人愉悦。

 

除此以外,相比Python,Go的优势还体现在:

 

  • 拥有非常棒的编译器,编译器可以检测出你犯的所有低级错误
  • 更好的并行性。Go 语言就是为并行而生的
  • 部署简单。代码所需要的所有依赖都在一个二进制文件里
  • 风格一致。格式化工具会让所有代码风格都保持一致
  • 更便捷的工具。一个编辑器+插件满足几乎所有需求,都不需要IDE

 

适用于机器学习的Python,适用于基础架构的Go

Cortex服务于TensorFlow,PyTorch,scikit-learn和其他Python模型,这意味着与这些模型的接口以及推理前后的处理,用Python完成。

 

但是,即使将Python代码打包到了Docker容器中,这些容器都是用Go语言编写的代码精心编排的。如果你有兴趣成为一名机器学习工程师,那么了解Python是必须的。

 

但是,如果你对使用机器学习基础结构感兴趣,则应认真考虑使用Go。

 

 

责任编辑:张燕妮 来源: 新智元
相关推荐

2020-02-14 15:22:58

编写基础架构Python

2020-02-14 13:13:04

Go机器学习Python

2023-03-30 14:10:30

2012-06-18 14:51:09

Python

2023-07-10 10:23:30

2012-11-13 10:27:45

PythonGo编程语言

2019-04-19 11:56:48

框架AI开发

2019-05-15 08:29:56

Web面板运维

2012-05-18 10:21:30

程序员CC++

2021-04-06 15:38:01

手机国产苹果

2020-05-11 09:00:57

Redis监控Zabbix

2020-06-16 09:17:33

ESRedis监控

2009-04-20 09:45:44

HR招聘求职

2019-03-11 08:36:11

Python代码Flask

2012-10-10 16:52:21

CentOSDebianUbuntu

2016-01-12 16:58:31

C游戏

2021-04-25 10:26:34

Python机器学习人工智能

2021-12-30 19:36:48

GoDubboJava

2022-01-07 14:05:33

DubboGoJava

2019-11-18 09:56:48

谷歌Go语言开发者
点赞
收藏

51CTO技术栈公众号