.NET4.0并行计算技术基础（1）

开篇语：

这是一个系列文章，系统介绍.NET 4.0中引入的并行扩展（包括任务并行库TPL和PLINQ）开发技术。

本系列文章中所有示例代码在VS2010 BETA1+Windows 7 RC下调试通过。所有示例源码将在本系列文章贴完以后，统一压缩上传到CSDN下载频道。

本系列文章的主要内容来自是本人将在电子工业出版社出版的新作中的一章，出于技术共享与交流目的发布，期望业界对并行计算有丰富经验的工程师指出疏漏，也希望网友对提出宝贵建议。

作者金旭亮拥有本系列文章所有版权，未经本人许可，不允许将此序列文章及相关示例用于商业目的，除此之外，在网络上出于知识共享目的的复制转贴不受限制。

反馈方式：

在我的本技术博客上直接回贴或发邮件至：

JinXuLiang@bit.edu.cn

2009.9.9

===================================================

随着多核CPU的普及和互联网的迅速发展，计算已经进入并行的时代，这种并行计算有两种主要的形式，一种着眼于充分挖掘单台计算机的硬件潜力，通常以多线程协作的方式完成指定的工作任务；另一种着眼于利用互联的计算机所共同拥有的计算能力，将一个工作任务分发到多台计算机上同时处理，通过多台计算机的相互协作完成单台计算机所无法完成的工作任务。

第一种计算形式在过去一直都是使用线程来实现的，而在.NET 4.0中，又在线程的基础上向软件工程师提供了一个“并行扩展（Parallel Extensions）”，从一个更高的抽象层次简化多线程应用程序的开发，这也是本章要介绍的主要内容。

第二种计算形式依赖于多台计算机的相互协作，本质上是一种分布式的软件系统，在.NET平台上，WCF是开发这类型软件系统的强大工具。本书第9篇的相关章节将介绍WCF技术。

19.1 并行计算概述

人们在谈论到计算机技术的飞速进步时，经常引用美国著名科幻小说作家Bruce Sterling[1]的一段名言：

“I used to think that cyberspace was fifty years away. What I thought was fifty years away, was only ten years away. And what I thought was ten years away... it was already here. I just wasn't aware of it yet.”

译为中文，这段话的大致含义是：

“我曾经认为网际空间（cyberspace，指互联网这个虚拟的空间）至少要有50年才会影响到我们。那些我认为要50年之后才会影响我们的东西，往往只需要10年就成为现实……。而那些我认为10年之后才会影响我们的东西，现在已经在那儿摆着了，而我甚至还没有意识到它已成为现实！”

并行计算就是这样的一个例子，它静悄悄地走来，却于静寞中引发了一场软件技术的变革，当人们开始意识到并行计算对日常生活的影响时，才突然发现，原来并行计算已无所不在。

[1] http://en.wikipedia.org/wiki/Bruce_Sterling 有对Bruce Sterling本人及其作品的介绍。

19.1.1 并行计算是计算的未来

从集成电路渗透到计算机领域开始，CPU的计算能力一直在持续地增长。其中有一个著名的“摩尔定律”描述了这一发展趋势。

趣闻轶事：

“摩尔定律”的提出者是Intel公司的创始人之一Gordon E. Moore，1965年他发表了一篇论文，在论文中他针对集成电路技术说过这么一段话：

“使用最低成本设计出来的元件其复杂性每年大约增加一倍。可以确信，即便不是有所加快，在短期内这一增长率也会继续保持。从长远的观点来看，这一增长率应该会略有变动。尽管没有充分的理由来证明，（但我认为）这一增长率至少在未来十年内几乎维持为一个常数。这意味着到1975年时，以最小的成本制作出来的单个集成电路将拥有65000个元件，而我相信这么庞大的电路将可以被集成到一块小小的芯片中”。

这就是“摩尔定律”的原型。1975年，Gordon E. Moore将修改了“定律”，将其中的“每年”改为“每两年”。而他的另外一名同事，在“摩尔定律”的基础上又提出了一个“修订版”的“摩尔定律”，新版定律指出，每18个月，集成电路的性能将提升一倍。尽管摩尔本人坚持：“我从没说过集成电路中的元件数量每18个月增加一倍”，但他的声音很快被淹没了，“18个月”作为集成电路的“发展周期”，开始以“摩尔定律”广为人知。

从1965年至今，虽然期间有许多人都曾说：摩尔定律已不再有效，但事实却证明这一定律与集成电路技术发展的实际情况相当吻合。到底摩尔定律能用多少年，现在谁也无法下这个结论，还是只能交给时间。但不管怎样，从“摩尔定律”上面人们还是能看到计算机科学家那种深邃的洞察力和让人佩服的预见能力。

对于传统的（非并行）应用程序，往往会随着硬件运行速度的提升而运行得更快。举个例子，许多早期的跑在286/386/486上的一些动作类和射击类游戏，如果不作修改地运行于现在的高性能CPU上，其运行速度可能会快到没有人再能玩这些游戏了。这就是计算机硬件技术的发展给软件所带来的直接好处：代码不用或仅略加修改，程序就拥有更快的运行速度。

然而，这种免费的午餐是无法永远提供的，其原因在于CPU速度无法无限提升。因为现有的CPU技术需要受到物理法则的限制：

当晶体管“瘦身”到很小时，由于控制电流的晶体管门(transistor gate) 以及氧化栅极(gate oxide)距离将非常贴近，因此，将发生电子漂移现象(electrons drift)。如果发生这种情况，晶体管会失去可靠性，原因是晶体管在这种条件下无法有效控制电子的运动，从而难于让其能维持稳定的“1”或“0”状态。

为了能突破这一物理限制而继续提升CPU的计算能力，CPU走向了另一个条路——多核，将多个CPU处理核心集成为单一的整体，称其为“多核CPU”。这样一下，虽然每个CPU处理核心的主频都没有提高，但通过将计算任务合理地分配在多个CPU处理核心上运行，我们同样能达到加快CPU处理性能的目的。

双核CPU是第一个得到广泛应用的产品，当前几乎所有的新购置的个人电脑都配置了双核CPU，而Intel宣布2009年将为台式机和笔记本电脑生产四核CPU（新四核CPU基于一个代号为“Nehalem”的微架构）。

简言之：

如果不对CPU技术作颠覆性的变革，那么，基于现有技术架构的CPU已基本走完了“通过提升主频而获取更高性能”之路，必须走向多核之路，其特点是：

（1）每个“核”的主频都不算高

（2）在设计CPU架构时，针对并行的工作负载进行了专门优化。

CPU的“多核”发展趋势对软件技术有重大影响。

因为CPU的多核化要想真正地发挥效益,必须依赖于精心设计的软件，这种软件本身必须具备将工作任务划分为多个可并行执行的子任务的能力，在操作系统（或特定的软件运行平台）的支持下，将这些任务分配给计算机所配备的多个CPU处理核心并发执行,并且能够在这些子任务运行结束后，将这些结果组合起来，得到最终的处理结果。这就是拥有“并行计算”能力的软件系统。

开发“并行计算”软件系统，对软件工程师提出了新的挑战，因为开发并行程序要比串行程序难得多。软件工程师必须转换思路，在开发新的软件系统时，从一开始就考虑到并行计算的特点，并对此进行特定的设计，才能充分利用现有硬件基础设施的强大处理能力，开发出高性能与高可靠性的软件系统，这是一个软件技术发展的必然趋势，也是任何一名软件工程师们都必须认真面对的挑战！

19.1.2 并行计算的基本原理

并行计算的基本思想并不复杂，那就是将一个复杂的工作任务进行分解，然后，在多核CPU上同时执行这些分解后的子任务。
首先，我们先谈谈多核CPU中的“核”。

1 CPU与“核”

现在人们常说：最近我买了一台双核笔记本电脑。这里面的“核（core）”指代什么，它与CPU是什么关系？还有，人们还常说到“处理器（processor）”，貌似这三个都是指同样的东西。

下面我们就来讨论一下这些概念的含义，弄清楚它们到底指代什么。

学过物理的人都知道，现代计算机是构造于集成电路技术基础之上，任何一个集成电路，最底层的也是最小的工作单元是一个个的晶体管，多个晶体管构成逻辑模块（logic block），一组逻辑模块进而构成功能单元（functional unit），例如可完成基本算术运算功能的ALU（Arithmetic Logic Unit，算术逻辑单元）就是功能单元的一个例子。

多个功能单元组合起来，就构成了微处理器（micro-processor），微处理器最广为人知的名字就是CPU（Central Processing Unit，中央处理单元）。

最终生产出来的微处理器实际上是一块物理基片（die），经过封装之后就叫作处理器（processor）。

那么什么是“核（core）”呢？

核是微处理器中所有可用的功能单元的集合。

那些直接参与指令执行的功能单元的集合称为“执行核（execution core）”。

很明显，每个微处理器必定要有一个执行核，否则，它无法执行任何指令，也就不能称其为微处理器了。

现在就可很清楚“多核”的含义了。所谓多核，其实就是在同一块物理基片上集成两个以上的“执行核”，从而使处理器具备并行执行指令的能力。多核CPU，就是指拥有多个执行核的微处理器，基片封装好之后，就称为“多核处理器”。

再区分一下另两个概念：多处理器与多核处理器系统。

如前所述，多核处理器系统是指计算机中的处理器中包容了多个执行核，通常这种计算机只包容有一个多核处理器，否则，此系统应归入“多处理器”系统。

多处理器系统是指由多个处理器构成的计算机系统，每个处理器自身可以是单核或多核的。

简单地说：多处理器系统可以看作是一个主板上具有多个处理器插槽的计算机系统。

从应用软件开发者角度来看，多处理器与多核处理器系统其实是一样的，可以统一地将其看成是计算机中拥有多个可供使用的CPU。

下面，我们再来区分一下另外两个很容易弄混的概念——“并发”与“并行”。

2 并发与并行

“并行（Parallelism）”是指多个工作任务在拥有多核CPU（或多个单核CPU）的多处理器计算机上同时执行。在这些工作任务运行的过程中，除非有任务提前结束或者延迟启动，否则，在任一时间点总有两个以上的工作任务同时运行。

简单地说：只要是“同时”运行的，就可以称之为是“并行”的。

图 19‑1展示了并行执行的三个工作任务在三个处理器上同时运行的情形，图中黑色的长条表示任务的执行过程。

“并发（Concurrent）”，指“宏观”上计算机可以同时执行多个不相关的工作任务（是“并行”的），但在“微观”角度来看，这些工作任务并不是始终都在运行，每个工作任务都呈现出“走走停停”这种相互交替的状态。

这里的“宏观”，是指从应用程序开发者层次上看的，时间尺度较大，而“微观”则是指从操作系统的线程管理角度和计算机硬件工程师层次上看的，时间尺度很小。

图 19‑2展示了3个工作任务在单个处理器上交替执行的情形。

图 19‑2中，可以看到通过轮流使用单个处理器，尽管在任何时刻都只有一个工作任务在运行，但在一个比较长的时间间隔内，所有的工作任务都在“并行”运行中。由此可见，“并发”的好处之一就是使有限的处理器资源可以“并行”运行超过处理器个数的多个工作任务。正是由于“并发”有这样的好处，所以在操作系统级别，不管计算机本身是单核系统还是多核系统，都是采用微观上的“并发”来实现宏观上的“并行”，绝不允许一个工作任务长时间地独占某个处理器直到其运行结束。

再详细解释一下如何利用“并发”实现“并行”。

在单核计算机系统中，操作系统通过“微观”上让每个线程分时使用处理器实现“宏观”上工作任务的“并发”执行（因为工作任务具体是由线程负责完成的），而在多核计算机系统中，尽管在物理架构上直接支持“并行”，允许同时运行多个线程，但由于大多数情况下负责执行工作任务的线程数往往大于可获取的处理器个数，所以，操作系统仍是使用同样的分时调度策略为线程分配处理器。这时，同一个线程有可能在不同的时间段内在不同的处理器上运行。图 19‑3展示了属于同一工作任务的多个线程在4个处理器上“跳越”执行的情形。

理解“并行”与“并发”的区别，是我们开发 “并行程序”的第一步。

请看《.NET4.0并行计算技术基础（2）》

查看全文
如若内容造成侵权/违法违规/事实不符，请联系编程学习网邮箱：809451989@qq.com进行投诉反馈，一经查实，立即删除！

2018年12月份GitHub上最热门的Java开源项目
2018年12月份GitHub上最热门的Java开源项目Java编程今天来自：开源最前线（ID：OpenSourceTop）链接：https://www.itcodemonkey.com/article/12747.html又到了公布 GitHub 上热门项目的时候啦~在 12 月的排行中，现在，一起来看看这些项目你使用过哪些呢？1,JavaGuidehttps:…...
2024/5/6 23:23:20
【HTC Desire S/S510e（S-OFF）完美刷机攻略】超详细新手教程之刷Recovery及刷ROM
首先，你要先确定你的机器是否是S-OFF的。确认方法：完全关机（如果不确定是否完全关机，最好把电池拿出来一下），按住音量下+电源键进入HBOOT界面。看第一行。如果显示为S-OFF，就请继续往下看。如果是S-ON，你的机器还不能直刷Recovery，请去找JS白卡完全解锁机器或者尝试…...
2024/5/7 8:29:13
DOS 批处理高级教程精选合编20080331
前言本教程主要引用伤脑筋版主(www.verybat.cn)的系列文章，同时参考引用[英雄]教程等其他批处理教程，本文将这些文章合并在一起，并适当修改，修改整理也是学习过程，力求深刻而又简单易懂，主要目的是方便自己以后查阅。本教程很长啊，需要一定的耐心才能看完，能够看完的…...
2024/4/20 17:57:50
北理工《Java程序设计》课程教学资源索引（2013版）——第21讲及Android第4讲发布
北理工《Java程序设计》课程教学资源索引（2013版，含《Android开发基础》）说明：“Java程序设计”是北京理工大学计算机学院开设的选修课程，主讲教师是金旭亮。本教学资源主要包括上课所使用之PPT（己转为PDF格式）和范例源码，以RAR格式打包上传至CSDN下载频道（请点击每讲…...
2024/4/28 14:28:34
让搜索引擎的用户留在CSDN
搜索引擎为社区、Blog、下载频道带来了大量的用户，但大多数都是过客。如果这些用户通过搜索引擎找到了自己想要的，这次浏览轨迹就画上了句号。就算是没有找到想要的，也会再次搜索，很难在频道停留。刚才忽然想到，如果我们分析refer，得到用户搜索的关键字，根据这些关键字…...
2024/5/6 23:47:50
批处理教程（建议耐心看完，必有收获）
这是一篇技术教程，我会用很简单的文字表达清楚自己的意思，你要你识字就能看懂，就能学到知识。写这篇教程的目的，是让每一个看过这些文字的朋友记住一句话：如果爱可以让事情变的更简单，那么就让它简单吧！看这篇教程的方法，就是慢！慢慢的，如同品一个女人、一杯茗茶，你…...
2024/5/7 2:42:26
Struts2 action通过struts2返回json方法（一）
源码地址：http://download.csdn.net/detail/biboheart/6024077 在web应用开发中，请求服务器返回json的使用经常用到。今天，特地对action返回json的几种方法进行测试（方法很多）。这种方法网上文章也比较多：使用struts.xml配置使action返回json。不多说，直接步骤（strut…...
2024/5/6 22:08:53
用魔术分区工具，重新分配分区大小
魔术分区—PartitionMagicv8.0 对硬盘进行分区、格式化是安装系统前不可缺少的步骤，一旦系统安装好了，想要调整分区的大小一般需要重新分区，不过重新分区会破坏硬盘中的所有数据，这常常令我们左右为难。如果没有第二块硬盘来中转数据，你可以考虑使用PartitionMagic（下载…...
2024/4/21 9:57:29
windows 批处理教程
批处理教程前言最近对于批处理技术的探讨比较热，也有不少好的批处理程序发布，但是如果没有一定的相关知识恐怕不容易看懂和理解这些批处理文件，也就更谈不上自己动手编写了，古语云："授人以鱼，不如授人以渔。"因为网上好像并没有一个比较完整的教材,所以抽一…...
2024/4/21 9:57:26
印刷电路板（PCB）的制作工艺流程
作为一个硬件工程师也已经差不多两年了，做了不少的原理图和 PCB 设计，但是最近突然想到好像还没有真正的了解一个 PCB 是如何制作出来的，所以在网上查了一下资料，下了一个《PCB 设计与制作》的 PDF（感谢 CSDN 下载频道），打算详细的了解一下这里的知识，也能反馈到原理图…...
2024/4/21 9:57:25
面向对象软件构造 1－5章整理
终于花了两个月的时间，把我以前翻译的“ 面向对象软件构造”前1－5章整理了一下。发现以前的英文真的很烂，虽然现在也不是很好。好多地方翻译得错得离谱。所以，如果您想阅读的话，就不要再参考以前的译文了。我不知道怎么才能把附件放到BLOG上，只好把文档上传到了CSDN的…...
2024/4/21 9:57:24
IronTrack SQL监控SQL语句
IronTrack SQL 能通过对 JDBC 的包装来拦截应用程序对数据库的请求，完成性能监控。IronTrack SQL 的好处在于不需要修改任何代码或者在数据库端安装任何程序，只需要在测试时把依赖的 JDBC 替换就可以了。使用步骤首先，你的应用系统同样也应当是基于数据库的，然后你需要去获…...
2024/4/21 9:57:25
批处理基础教程
第一章批处理基础第一节常用批处理内部命令简介批处理定义：顾名思义，批处理文件是将一系列命令按一定的顺序集合为一个可执行的文本文件，其扩展名为BAT或者CMD。这些命令统称批处理命令。小知识：可以在键盘上按下CtrlC组合键来强行终止一个批处理的执行过程。了解了大概意…...
2024/4/20 12:43:47
OpenGL+MFC对三维点云的法向量实现可视化
最近有小伙伴在问，我想显示一个求得的三维点云中的每一个点的法向量的指向，怎么获得这种逼真的三维显示效果呢？当然是OpenGL啦，也是我自己用的比较习惯，所以就花了十几分钟帮助上面提问的小伙伴解决问题，然后也提供给大家一个查看三维点云法向量的工具，稍后我会在我的Ｃ…...
2024/4/27 7:35:28
C#雪花飘研究和学习
前几天在csnd的下载频道下载了一个C#写的雪花飘飘的程序，感觉很是惊讶，于是庖丁解牛，仔细的研究了一番。再次贴出来，以供下次学习。具体效果如下图：其中是实现的思路是利用WinAPI，创建一个窗口句柄，然后再找个句柄窗口中去绘图和更新。具体核心利用到的API如下 [DllImp…...
2024/4/30 10:28:02
【教程】：Photoshop ps 图片批处理
Photoshop ps 图片批处理大小看下结果：左边是原始图片，右边是处理后的图片大小录制动作先打开一个图片打开动作新建一个动作录制这个动作 ctrl + alt + i 设置图片分辨率停止录制打开【文件】 - 【批处理】选择源文件夹选择输出文件夹如果选择覆盖【打开文件】动作，…...
2024/4/21 9:57:19
如何给缩略图加上边框等效果
如何给缩略图加上边框等效果作者：雅虎　文章来源：本站原创　点击数：<script language="javascript" src="/Help/GetHits.asp?ArticleID=414" type="text/javascript"></script> 2800　更新时间：2005-5-31　　　在《动易网站管理…...
2024/4/20 17:58:00
bat批处理教程 06
没错，这就是批处理的魅力，这就是爱的魅力。让你受了伤还感谢伤你的人。这种感觉就好象在自己最喜欢的音乐声中被人..，痛并快乐着。不得不再次重申一遍，各种DOS命令是批处理的BODY（我实在找不出一个更合适的词来形容他们之间的关系），学好DOS命令是学好批处理的前提。其他…...
2024/4/20 17:57:59
Android频道管理集成
前言最近开发的项目中有类似网易新闻的频道管理，在完成项目后，我将频道管理单独抽取成Library，方便以后开发，也把总结到的一点知识分享出来。先看看，我的频道管理有什么特点吧。特点1.支持固定频道，支持排序，删除。删除，添加皆有动画效果。 2.在排序完成后，通过刷新Ad…...
2024/4/20 17:57:58
操作系统经典书籍推荐
看了篇文章，是评述操作系统方面的经典书籍的，其观点我较为同意，特贴出来，其电子版的CSDN下载频道大多都有。Abraham Silberschatz的两本书： 1．实用操作系统概念（影印版） 2．操作系统概念（第六版影印版）这个作者绝对是顶尖级的，来自贝尔实验室，是目前世界上操…...
2024/4/27 22:54:14

.NET4.0并行计算技术基础（1）

19.1.1 并行计算是计算的未来

1 CPU与“核”

2 并发与并行

相关文章

最新文章