多核编程的四层境界

开发 前端
发表“老子是伟大的多核计算科学家”(欲看此文,请点这里) 一文来,收到许多网友的强烈反响,褒扬者有之,砸板砖者亦有之。

自发表“老子是伟大的多核计算科学家”(欲看此文,请点) 一文来,收到许多网友的强烈反响,褒扬者有之,砸板砖者亦有之。不过板砖数量倒是在我的意料之中,凡是跟哲学或者说是玄学的东西沾上边的,总会招来一阵口 舌之争。虽然砸板砖者也没有说出任何反驳的道理来,但是并不代表那篇文章就很***,没有不足的地方。实际上那篇文章中只涉及了多核编程的一个层面的思想, 还有另外三层思想没有被提及,这也许可以算作是那篇文章的不足之处吧。为弥补其不足之处,下面从四个层面来阐述多核编程的基本思想。

***层  先天·方法·策略层

***层的基本思想就是“老子是伟大的多核计算科学家”一文中所提及的几个基本思想:“贪心”、“自私”、“偷”等。这些东西是先天存在的,是人类的一种本能,它又可以看作是方法、策略,因此把这层叫作“先天·方法·策略层”。

先天的方法策略并不限于“贪心”、“自私”、“偷”这三种,去年的SD大会上,我讲过一个基于抢夺的分布式内存管理算法,说明“抢”也是一种先天的方法策略。所谓:

“人之初,性本贪,性自私,性喜偷,性喜抢。”

为避免误解,这里先说明一下,这里所说的“偷”、“抢”和通常意义的偷、抢并不完全相同。“偷”和道家意义上的偷是同一个含义,即“不与取”之意;“抢”则是取“不归还”之意。

昔范蠡云:“且夫天舆弗取,反受其咎”。既然上天给了我们这么多好的方法策略,不用它的话显然是一种糟蹋。在多核编程中如何使用这些策略来进行编程,开源项目TBB中可以找到详细的代码例子。

第二层  目标·需求·评价层

先天的方法策略,虽然看似简单,但要用好它并不是一件容易的事情。自私、贪心、偷、抢等先天方法既可以用来做好事,也可以用来做坏事。这就牵涉到如何评价是否用好了这些先天方法策略的问题,也就是第二层目标·需求·评价层所需要解决的问题。

并不能为了使用先天方法策略而使用它,而是用它来满足我们的需求,到达一定的目标。那么这个需求和目标是什么呢?

在这里不想对一般的需求进行分析,只分析优化方面的需求。要达到优化,可以理解为各种资源的有效利用,可能有很多人已经有这方面的理解【1】。这些资源可以分为以下几个方面:

  1. 时间资源, 时间资源指的就是时间,比如一段程序或算法需要运行多长时间。
  2. 空间资源,如内存、硬盘、网络、各种IO设备资源等均属于空间资源。
  3. 计算资源,如CPU、GPU、各种板卡上的处理器等均属于计算资源。
  4. 能源资源,通常指的是电能的消耗量,由于全球变软,环保问题的日益重要,这个在以往被忽视的资源也变得重要起来。

如何有效利用上述资源,并在各种资源利用间取得均衡,是制定目标和需求的基础,也是评价程序或算法优化程度的基础。

第三层  本质·根源·保障层

资源的有效利用,可不是一件简单的事情。在单核时代,许多程序员已有时间资源和空间资源的利用及均衡方面的丰富经验,那时几乎不用考虑计算资源的利用问题,因为处理器只有一个。

然而,在多核系统中,计算资源的利用成了头号问题,多个处理器的使用,使得程序员必须考虑如何将程序在各个处理器上并行地执行,这就牵涉到一个负载均衡问题。

负载均衡问题历来属于难题,由于客观上存在大量的共享资源,各种不同的共享资源情况复杂,并不能简单地将负载平均一下就摊到各个CPU核上去执行。那么用什么来保障负载平衡呢?如何去达到资源有效利用的***目标需求呢?

要 保障目标需求的实现,其核心就是公平、正义问题。当然,对公平、正义这两个词的理解,现实情况中存在多种解释,这里采用更广义的解释,凡是可从正确的前提 通过逻辑推导出来的定义,均视做正义,例如自然科学中的所有公理、定理及推论,均属于正义。在人类社会中,一些公认的道德标准、法律条文,也属于正义。

以动态偷取的调度算法为例,一般都是设计成每个线程一次偷取一个任务,实际上已经隐含地使用公平正义对偷取的数量做了限制,倘若不如此,任由一个线程一次将队列中所有任务都偷走,那么其他线程就偷不到任务了,这样就会出现负载不均衡,无法有效地利用多个处理器的计算资源。

再 比如基于抢夺的内存分配算法,每个线程使用了共享内存后,它并不返回给它的属主线程,而是据为己有,这样时间一长,必然有某些线程占有了过多的内存资源。 为了解决这个问题,解决方法就是每次抢完后,都需要判断一下自己占有的内存数量是否过多,过多的话则主动将一部分内存归返给公共内存池,从而实现负载均 衡。可以看出基于抢夺的内存分配算法中也使用了公平、正义以确保负载均衡。

公 平、正义问题可以说是算法之本,全局效率之源。为什么这么说呢?不妨看看现在美国发生的次贷危机,其根本原因是由于银行将贷款发放给无偿返能力的客户所造 成的。从公平、正义的角度看,实质上是银行为了自身的贪心、自私,违反了基本的公平、正义问题。次贷危机的后果,无需我多言,大家均已看到。可见,没有公 平正义,贪心、自私等先天方法策略必然会被滥用,其结果必然导致全局的不优。

由此可见,公平、正义是保障贪心、自私、偷、抢等先天方法策略得以正确使用的前提条件。本层名称中的本质、根源、保障,说的就是公平、正义。

需 要提及的是,在人类社会的现实中,由于人是有情感的,公平正义在执行中总会存在偏差,这时就需要仁爱来弥补其不足,这也许是儒家思想能够流传两千多年而不 灭的根本原因。当然,如果把仁爱思想也看作是道德标准的一部分的话,按照前面给出的正义的定义,其实仁爱也属于正义的范畴。

第四层  算法·实现·执行层

通过上面三个层面的阐述,可以知道先天的方法策略是实现优化的基本手段,资源有效利用则是实现优化的目标需求及评价条件,公平、正义则是保障先天的方法策略合理使用的前提条件。是不是有了这几样东西就可以做到达成优化的最终结果呢?

答案是“非也”。如果上面那几个东西就可以达成优化的结果,那么从街上随便抓个人恐怕都可以写出很好的多核程序来了,还要程序员干嘛,还要去学习多核编程的各种模式、技巧及算法干嘛?

就 像学了牛顿力学一样,有些人可以设计出摩天大厦,造出各种机械,有些人却啥也做不了。何也?运用好坏之不同也。要写出好的多核程序,同样牵涉导如何运用上 面三层中的基本原理思想方法的问题,而要用好这些基本原理思想,更多的还是要靠程序员自身的知识及能力,最终依赖于算法或程序的具体实现。就像有了道家, 儒家,却仍然少不了法家、农家、医家等各个领域的诸子百家。

怎样写出好的多核算法或程序来? “好好学习、天天向上”是也。

原文链接:http://blog.csdn.net/drzhouweiming/article/details/3996958

责任编辑:陈四芳 来源: blog.csdn.net
相关推荐

2012-09-11 09:55:26

编程HTML5编程能力

2010-11-24 09:15:44

编程

2018-11-12 12:50:30

C语言编程汇编

2010-08-02 11:04:25

Flex程序员

2013-12-16 15:04:51

多核编程

2012-09-13 09:47:01

程序员

2013-12-18 16:32:27

多核编程同步模式

2013-12-18 16:12:26

多核编程

2013-12-16 15:09:15

多核负载

2017-11-06 10:15:36

机器学习框架Tensorflow

2013-12-16 11:18:42

多核

2010-08-03 13:47:26

Flex程序员

2011-07-21 17:40:43

iOS 多核 内存

2011-08-05 16:41:48

iOS 队列 内存

2013-12-18 16:18:08

多核线程

2018-06-29 15:07:13

代码工程师软件开发

2014-07-24 09:38:34

2012-11-12 11:26:44

2011-08-22 11:07:16

IOS 开发多核内存

2014-10-11 17:06:07

交换机
点赞
收藏

51CTO技术栈公众号