并行曙光5000a

§2.
1并行计算机系统结构模型(第一部分)徐悦甡(YueshenXu)ysxu@xidian.
edu.
cn软件工程系西安电子科技大学《并行计算:ParallelComputing》结构编程算法应用并行计算机体系结构分类通用计算机体系结构Flynn的四种体系结构划分方法并行计算机体系结构的具体实现并行计算机体系结构多种实现的比较从处理器的角度并行计算机访存模型均匀存储访问与非均匀存储访问高速缓存存储访问非远程存储访问模型等体系结构与访存模型的关系本节提纲从存储器的角度学习动机为什么要学习并行计算机体系结构并行计算机体系结构并行与并发编程并行算法设计并行计算应用知识栈知识体系的完整性与其它学校的同类专业竞争中科大,哈工大,南大职业发展的可能性并行计算平台架构师并行计算平台高级工程师并行计算机体系结构设计师教学大纲的要求而且内容本身也很有趣通用计算机体系结构摘自尹朝庆.
《计算机系统结构》CPU,计算输入输出存储通信通用计算机体系结构涉及到的重要组件或结构本地总线CPU上的总线总线(物理层面)连接处理器、存储模块和I/O外围设备等的一组导线和插座存储(器)总线存储器板上的总线数据总线把CPU的数据传送到存储器或输入输出接口等部件,或将其它部件的数据传送到CPU位于I/O板与通信板上通用计算机体系结构SCSI总线(SmallComputerSystemInterface)I/O总线的一种,通用接口标准,用于与多种类型的外设进行通信各插入板上较通用的组件IF:interfacelogic,专用逻辑接口LM:localmemory,局部存储器MC:memorycontroller,存储器控制器CC:communicationcontroller,通信控制器IOC:input/outputcontroller,I/O控制器IOP:input/outputprocessor,I/O处理器并行计算机体系结构分类Flynn分类法分类依据:指令流和数据流的执行方式MichaelJ.
FlynnFlynn分类法SISD(Singleinstructionstream,singledatastream),单指令流单数据流MIMD(Multipleinstructionstreams,multipledatastreams),多指令流多数据流SIMD(Singleinstructionstream,multipledatastreams),单指令流多数据流MISD(Multipleinstructionstreams,singledatastream),多指令流单数据流指令流:机器执行的指令序列数据流:由指令流调用的数据序列,包括输入数据和中间结果并行计算机体系结构分类SISD(早期计算机)Singleinstructionstream,singledatastream从存储在内存中的程序那里获得指令,并作用于单一的数据流,即一条指令处理一条数据多用于早期计算机-目前很少使用-并行计算机也不使用PU:processingunit并行计算机体系结构分类SIMD(单核计算机)Singleinstructionstream,multipledatastreams单条的指令流作用于多于一个的数据流上,在单个时钟周期内处理多个数据单元主要用于单核计算机-不是并行计算机的主流模式PU:processingunit并行计算机体系结构分类MISDMultipleinstructionstreams,singledatastream采用多个指令流来处理单个数据流MIMD(多核计算机,并行)Multipleinstructionstreams,multipledatastreams以同时执行多个指令流,这些指令流分别对不同数据流进行操作(实际很少用)常见的MIMD结构MIMD:多指令流多数据流MIMD的常见具体实现五种常见的MIMD实现方式PVP(ParallelVectorProcessor),并行向量处理机DSM(DistributedShared-Memory),分布式共享内存机SMP(SymmetricMulti-processor),对称多处理机MPP(MassivelyParallelProcessor),大规模并行处理机COW(ClusterofWorkstations),工作站集群传统分类法,结构越来越复杂常见的MIMD结构MIMD:多指令流多数据流高性能并行计算机发展历程均为MIMD结构萌芽大规模并行处理机1964-19751990-2000集群2000-CDC6600(1964年)CM-5(1993年)向量机1976-1990CRAY-1(1976年)按照MIMD的类别来详细讲解常见的MIMD结构MIMD:多指令流多数据流PVP(ParallelVectorProcessor)并行向量处理机(依赖流水线技术)向量处理机(VectorProcessor,VP)向量由一组有序、具有相同类型和位数的元素组成向量处理机:在基于流水线技术的计算机中,具有向量数据表示和相应向量指令的处理机常见的MIMD结构MIMD:多指令流多数据流PVP(ParallelVectorProcessor,续)相对地,标量处理机:不具有向量数据表示和相应向量指令的处理机银河-ISeymorCray与设计的CDCSTAR常规处理器设计性价比的快速下降,使向量处理器在90年代末开始不再占主导地位一般应用的计算机均为标量处理机vs.
向量处理机应用于科学计算(非/线性规划、傅里叶变换、偏微分方程、矩阵计算等等)早期(70~90年代)的超级计算机、巨型机,如银河早期系列,均为向量处理机常见的MIMD结构MIMD:多指令流多数据流SMP(SymmetricMulti-processor)对称多处理机各处理器完全平等,无主从之分SM=SharedMemory所有的处理器都可以访问任何存储单元和I/O设备通信上,可用共享变量(读写同一内存单元)来实现常见的MIMD结构MIMD:多指令流多数据流商用SMP系统特性比较2005年之前最新型号的数据各位同学可自行查找特性DECAlphaserverHP9000SUNUltra6000SGIPowerXL处理器数目12123036最大主存28GB16GB30GB16GB磁盘容量192GB168GB63GB144GBI/O带宽1.
2GBps1GBps2.
6GBps320MBps乘以网卡槽数DEC:DigitalEquipmentCorporationSGI:SiliconGraphics常见的MIMD结构MIMD:多指令流多数据流MPP(MassivelyParallelProcessor)大规模并行处理机规模非常大的并行计算机系统,含有成千上万个处理器一般采用分布的存储器,存储器一般为处理器私有各处理器之间用消息传递的方式通信IntelParagonNIC=NetworkInterfaceCircuitryLM=LocalMemory常见的MIMD结构MIMD:多指令流多数据流MPP的设计问题可用性据估计,10000个处理器/计算节点的MPP系统,每天至少有一个处理器/计算节点失效存储器与I/O能力存储器部分发展较快,但I/O部分发展较慢系统成本针对一个任务,需要多少处理器/计算节点可扩展性MPP在处理器方面有很高的可扩展性但由此会带来I/O容量、存储器等的平衡问题常见的MIMD结构MIMD:多指令流多数据流DSM(DistributedShared-Memory)分布式共享内存机存储器在物理上是分布在各个结点中的MB=MemoryBusNIC=NetworkInterfaceCircuitryLM=LocalMemoryDIR=缓存目录但是通过硬件和软件为用户提供一个单一地址的编程空间,即形成一个虚拟的共享存储器常见的MIMD结构MIMD:多指令流多数据流DSM(DistributedShared-Memory,续)分布式共享内存机CrayInc.
通过高速缓存目录(DIR)支持分布高速缓存的一致性常见的MIMD结构MIMD:多指令流多数据流COW(ClusterofWorkstations)工作站集群用高速商业互连网络或者定制的网络连接以太网,ATM网络等NIC=NetworkInterfaceCircuitryLD=LocalDiskM=MemoryBridge=网桥常见的MIMD结构MIMD:多指令流多数据流COW(ClusterofWorkstations,续)工作站集群每个结点都是一台完整的计算机现代超级计算机主流体系结构,也是商用产品的主流形式表现形式:一排排的机柜并行计算机体系结构汇总各实现形式比对并行计算机体系结构汇总各并行计算机体系结构渐趋一致SMP、MPP、DSM和COW并行结构渐趋一致特征大量的节点通过高速网络互连起来节点遵循Shell结构:用专门定制的Shell电路将商用微处理器和节点的其它部分(包括板级Cache、局存、NIC和DISK)连接起来注:Shell专门设计定制的电路vs.
Linux中的命名解释器当处理器芯片更新换代时系统的其他部分无需改变动机简化并行计算机的设计,提高并行计算机的通用性并行计算机体系结构汇总三种通用的体系结构区别:是否共享外存是否共享内存并行计算机体系结构汇总我国的曙光系列超级计算机[注]曙光一号SMP1993曙光1000注:来源自曙光公司解决方案中心总经理,曹振南SMP=SymmetricMulti-processorMPP=MassivelyParallelProcessorMPP1995Cluster1998Cluster1999Cluster2000曙光2000I曙光2000II曙光3000Cluster2004曙光4000A曙光5000A2009并行计算机体系结构汇总我国的曙光系列超级计算机曙光2000II曙光5000A曙光3000曙光4000A曙光6000曙光vs.
天河中国并行超级计算机的北派南派,移动联通曙光2000I作业题目题目1.
从可扩展性上比较SMP与MPP两种体系结构-可扩展性的角度包括:内存大小可扩展性、处理器数目可扩展性、磁盘容量可扩展性等,至少选取一个题目2.
试说明(可举例,也可论证):如何使用SIMD的机器上实现MIMD并行应用-即假设你身边有的只是SIMD的机器,但任务却是要实现一个并行应用,那是否有办法可完成作业要求独立完成,发送电子版,可以是word,也可以pdf作业提交地址xdsepc2018@163.
com命名规则:"学号+姓名+作业一"课件地址http://web.
xidian.
edu.
cn/ysxu/teach.
html时间:两周之内,至第四次上课之前提交篇幅:没有绝对的页数要求,但是两道题目一般不应少于1页A4纸的2/3课件地址§2.
2主流并行计算机系统与性能测评http://web.
xidian.
edu.
cn/ysxu/结构编程算法应用