1、l组成并行计算机的各个部分：节点（node）：每个节点由多个处理器构成，可以直接进行输入输出（I/O）操作；互联网络（interconnect network）：所有节点通过互联网络相互连接通信；内存（memory）：内存由多个存储模块组成1、与节点对称的分布在互联网络的两侧；2、位于各个节点的内部。内存模块与节点分离内存模块位于节点内部l解决内存墙（memory wall）性能瓶颈问题；l节点内部的cache称为二级cache（L2 cache）；l处理器内部更小的cache成为一级cache（L1 cache）；lL1 cache连接CPU寄存器和L2 cache，负责缓存L2 cache
2、中的数据到寄存器中。l并行计算机的多级存储结构主要包括两个问题：Cache的映射策略，即cache如何从内存中取得数据进行存储；节点内部或者节点之间内存的访问模式。lcache原理，cache以cache线为基本单位，每条cache包含L个字，每个字8个字节。例如，L=4，则表示cache线包含4*8=32个字节。内存空间分割成块（block），每个块大小与cache线长度一致，数据在内存和cache之间的移动以cache线为基本单位。For i=1 to M Ai=Ai+2*Bi l如果操作数存在cache中，称该次访问是命中的，否则，该次操作是“扑空”的。lcache的映射策略（内存块和c
3、ache线之间如何建立相互映射关系）：直接映射策略（direct mapping strategy）：每个内存块只能被唯一的映射到一条cache线中；K路组关联映射策略（K-way set association mapping strategy）：Cache被分解为V个组，每个组由K条cache线组成，内存块按直接映射策略映射到某个组，但在该组中，内存块可以被映射到任意一条cache线；全关联映射策略（full association mapping strategy）:内存块可以被映射到cache中的任意一条cache线。lUMA（Uniform Memory Access）模型：该模型内
4、存模块与节点分离，分别位于互联网络的两侧 物理存储器被所有节点共享；所有节点访问任意存储单元的时间相同；发生访存竞争时，仲裁策略平等对待每个节点，即每个节点机会均等；各节点的CPU可带有局部私有高速缓存；外围I/O设备也可以共享，且每个节点有平等的访问权利。lNUMA（Non-Uniform Memory Access）模型：该模型内存模块分布在各个节点内部，所有局部内存模块均构成并行计算机的全局内存模块。内存模块在物理上是分布的，在逻辑上是全局共享的，这种模型也称之为“分布式共享访存模型”物理存储器被所有节点共享，任意节点可以直接访问任意内存模块；节点访问内存模块的速度不同，访问本地存储模块
5、的速度一般是访问其他节点内存模块的3倍以上；发生访存竞争时，仲裁策略对节点可能是不等价的；各节点的CPU可带有局部私有高速缓存（cache）；外围I/O设备也可以共享，但对各节点是不等价的。lCOMA（Cache-Only Memory Access）模型：全高速缓存存储访问模型 各处理器节点中没有存储层次结构，全部高速缓存组成了全局地址空间；利用分布的高速缓存目录进行远程高速缓存的访问；COMA中的高速缓存容量一般都大于2级高速缓存容量；使用COMA时，数据开始时可以任意分配，因为在运行时它最终会被迁移到要用到它的地方。lSIMD同步并行计算模型共享存储的SIMD模型（PRAM模型）；分布存
6、储的SIMD模型（SIMD互联网络模型）lMIMD异步并行计算模型异步PRAM模型BSP模型LogP模型C3模型lSIMD共享存储模型假定存在着一个容量无限大的共享存储器，有有限或无限个功能相同的处理器，且均具有简单的算术运算和逻辑判断功能，在任何时刻各处理器均可通过共享存储单元相互交换数据。lSIMD共享存储模型（PRAM模型）PRAM-EREW（Exclusive-Read and Exclusive-Write），不允许同时读和同时写；PRAM-CREW（Concurrent-Read and Exclusive-Write），允许同时读但不允许同时写；PRAM-CRCW（Concurr
7、ent-Read and Concurrent-Write），允许同时读和同时写。l优点：适合于并行算法的表达、分析和比较；使用简单，很多诸如处理器间通信、存储管理和进程同步等并行计算机的低级细节均隐含于模型中；易于设计算法和稍加修改便可运行在不同的并行计算机上；且有可能加入一些诸如同步和通信等需要考虑的方面。lSIMD分布存储模型采用一维线性连接的SIMD模型，简记为SIMD-LC采用网孔连接的SIMD模型，简记为SIMD-MC采用树形连接的SIMD模型，简记为SIMD-TC采用树网连接的SIMD模型，简记为SIMD-MT采用立方连接的SIMD模型，简记为SIMD-CC采用立方环连接的SIM
8、D模型，简记为SIMD-CCC采用洗牌交换连接的SIMD模型，简记为SIMD-SE采用蝶形连接的SIMD模型，简介为SIMD-BF采用多级互联网络连接的SIMD模型，简记为SIMD-MINlAPRAM特点:每个处理器都有其本地存储器、局部时钟和局部程序处理器间的通信经过共享全局存储器无全局时钟，各处理器异步地独立执行各自的指令处理器任何时间依赖关系需明确地在各处理器的程序中加入同步障（Synchronization Barrier）一条指令可在非确定但有限的时间内完成。lAPRAM模型中有四类指令:全局读，将全局存储单元中的内容读入本地存储器单元中局部操作，对本地存储器中的数执行操作，其结果存
9、入本地存储器中全局写，将本地存储器单元中的内容写入全本地存储器单元中同步，同步是计算中的一个逻辑点，在该点各处理器均需等待别的处理器到达后才能继续执行其局部程序l大同步并行BSP（Bulk Synchronous Parallel）模型 作为计算机语言和体系结构之间的桥梁，由下述三个参数描述分布存储的并行计算机模型：处理器/存储器模块（下文简称处理器）；处理器模块之间点到点信息传递的路由器；执行以时间间隔L为周期的路障同步器。l特点：将处理器和路由器分开，强调了计算任务和通信任务的分开，而路由器仅施行点到点的消息传递，不提供组合、复制或广播等功能，这样做既掩盖了具体的互联网络拓扑，又简化了通信
10、协议；采用路障方式的以硬件实现的全局同步是在可控的粗粒度级，从而提供了执行紧耦合同步式并行算法的有效方式，而程序员并无过分的负担；在分析BSP模型的性能时，假定局部操作可在一个时间步内完成，而在每一超级步中，一个处理器至多发送或接受h条消息（h-relation）lLogP模型一种分布存储的、点到点通信的多处理机模型，其中通信网络由一组参数来描述，但它并不涉及到具体的网络结构，也不假定算法一定要用显式的消息传递操作进行描述。lC3（Computation,Communication,Congestion）是一个与体系结构无关的粗粒度的并行计算模型，旨在能反映计算复杂度，通信模式和通信期间潜在的
11、拥挤等因素对粗粒度网络算法的影响。l比较流行的并行编程环境主要有3类：消息传递、共享存储和数据并行，共享存储并行编程基于线程级细粒度并行，可移植性不如消息传递并行编程，但是，由于他们支持数据的共享存储，所以并行编程的难度较小，但一般情况下，当处理机个数较多时，其并行性能明显不如消息传递编程；消息传递并行编程基于大粒度的进程级并行，具有最好的可扩展性，几乎被所有当前流行的各类并行计算机所支持，其具有较好的可扩展性，但是，消息传递并行编程只能支持进程间的分布式存储模式，即各个进程只能支持访问其局部内存空间，而对其他进程的局部内存空间的访问只能通过消息传递来实现，因此，学习和使用消息传递并行编程的难
12、度均大于共享存储和数据并行这两种编程模式。l3类并行编程环境的主要特征的比较总结 v特征特征v消息传递消息传递v共享存储共享存储v数据并行数据并行v典型代表vMPI,PVMvOpenMPvHPFv可移植性v所有主流并行计算机vSMP,DSMvSMP,DSM,MPPv并行粒度v进程级大粒度v线程级细粒度v进程级细粒度v并行操作方式v异步v异步v松散同步v数据存储模式v分布式存储v共享存储v共享存储v数据分配方式v显式v隐式v半隐式v学习入门难度v较难v容易v偏易v可扩展性v好v较差v一般l加速比（Speedup）：用最优串行算法的执行时间最优串行算法的执行时间除以并行程序的执行时间并行程序的执行
13、时间所得到的比值，能够准确描述对程序并行化之后所获得的性能收益。最优串行算法的执行时间除以并行程序的执行时间所得到的比值：并行加速比就是指对于一个给定的应用，并行算法的执行速度相对于串行算法的执行速度加快了多少倍。l并行程序执行时间等于从并行程序开始执行到所有进程执行完毕，墙上时钟走过的时间，也称为墙上时间（wall clock time）。对各个进程，墙上时间可进一步分解为计算CPU时间、通信CPU时间、同步开销时间、同步导致的进程空闲时间；计算CPU时间：进程指令执行所花费的CPU时间，包括程序本身的指令执行占用的时间和系统指令花费的时间；通信CPU时间；同步开销时间；进程空闲时间：当一个
14、进程阻塞式等待其他进程的消息时，CPU通常是空闲的，或者处于等待状态。进程空闲时间是指并行程序执行过程中，进程所有空闲时间总和。l加速比性能定律Amdahl定律能够计算并行程序相对于最优串行算法在性能提升上的理论最大值表述是一种直观、清楚的表述，他将程序划分为可加速与不可加速两大部分，程序总的加速比是一个关于程序中这两部分所占比例以及可加速部分性能加速程度的函数 如果只对50%的程序加速15%的话，整个程序总的加速比就是：Amdahl定律:S 表示执行程序中串行部分的比例，n表示处理器核的数量。假设最优串行算法的执行时间为一个单位时间（也就是分子为1）。处理器核在数量上能够无限制的增加，但是无
15、限的处理器核却并不能带来性能上的无限增长，无论如何，程序性能上的总是有个上限，这个要受限于串行部分所占的比例。l串行程序性能优化是并行程序性能优化的基础，一个好的并行程序首先应该拥有良好的单机性能，影响程序单机性能的主要因素是程序的计算流程和处理器的体系结构 调用高性能库：充分利用已有的高性能程序库是提高应用程序实际性能最有效的途径之一。许多著名的高性能数学程序库，如BLAS和FFTW；选择适当的编译器优化选项：现代编译器在编译时能够对程序进行优化，从而提高所生成的目标代码的性能。这些优化功能通常是通过一组编译选项来控制；合理定义数组维数：现代计算机为了提高内存带宽，多采用多体交叉并行存储系统
16、，即使用多个独立的内存体，对他们统一编址。为了充分利用多体存储，在进行连续数据访问时应该使地址的增量与内存体数的最大公约数尽量的小，特别要避免地址增量正好是体数的倍数的情况，因为此时所有的访问将集中在一个存储体中；l串行程序性能优化注意嵌套循环的顺序：提高cache使用效率的一个简单原则就是尽量改善数据访问的局部性，数据访问的局部性包括空间局部性和时间局部性，空间局部性指的是访问了一个地址后，会紧接着访问他的邻居地址。在嵌套的多循环语句中，循环顺序往往对循环中数据访问的局部性有很大的影响。在编写嵌套的多循环代码时，一个通用的原则就是尽量使最内层循环的数据访问连续进行；数据分块和循环展开和一些其
17、他方法，例如使用一些优化工具如 Intel VTune等。l并行程序性能优化并行程序的性能优化相对于串行程序而言就有些复杂了，最主要的是选择好的并行算法和通信模式，下面介绍一下常用的并行程序优化技术 减少通信量、提高通信粒度：主要有三个途径：较少通信量、提高通信粒度和提高通信中的并发度。提高通信粒度的有效方法就是减少通信次数，尽可能将可以一次传递的数据合并起来一起传递；全局通信尽量利用高效集合通信算法：当组织多个进程之间的集合通信时，使用高效的通信算法可以大大地提高通信效率，从而降低通信开销；挖掘算法的并行度，减少CPU空闲等待：些具有数据相关性的计算过程会导致并行运行的部分进程空闲等待。在这
18、种情况下，可以考虑改变算法来消除数据相关性；l并行程序性能优化负载平衡：是导致进程空闲等待的另外一个重要因素。在设计并行程序时应该充分考虑负载平衡问题，动态调整负载时要考虑负载调整的开销及由于负载不平衡而引起的空闲等待对性能的影响，寻找最优负载调整方案；通信、计算的重叠：通常让通信和计算重叠进行，利用计算时间来屏蔽通信时间，是减少通信开销得非常有效的方法。实现通信与计算重叠的方法一般基于非阻塞通信，先发出非阻塞的消息接受或发送命令，然后处理与收发数据无关的计算任务，完成这些计算后再等待消息收发的完成；通过引入重复计算来减少通信，即以计算换通信：适当引入一些重复计算，可以减少通信量和通信次数。由于当前大部分并行计算机的计算速度远远大于通信速度，并且在一些情况下，当一个进程计算时，别的进程往往处于空闲等待状态，因而适当引入重复计算可以提高程序的总体性能。
