Review of terms in Computation

一、并行计算（Parallel Computing）

并行算或称平行计算是相对串行计算来说的，所谓并行计算可以分为时间上和空间上的并行。时间上的并行是指采用流水线技术，而空间上的并行则指用多个处理器并发执行计算。并行计算科学中主要研究的是空间上的并行问题。从程序和算法设计人员角度来看，并行计算有可分为数据并行和任务并行。一般来说，因为数据并行主要是把一个大任务化解为相同的子任务，比任务并行容易处理。

空间上的并行导致了两类并行机的产生，按照Flynn分类法，计算机可分为单指令流单数据流（SISD），多指令多数据流（MIMD）。MIMD的机器又可分为：并行向量处理机（PVP），对称多处理机（SMP），大规模并行处理机（MPP），分布式共享存储处理机（DSM）。

并行计算是靠网络将各个处理机或处理器连接起来，一般有以下几种方式：

静态连接：处理单元间有着固定连接的网络，在程序执行期间，这种点到点的连接保持不变，典型的静态连接网络立方体网络，蝶形网络，洗牌交换网络等等。

动态连接：用交换开关构成，可按应用程序的要求动态的改变连接组态，典型的网络包括总线，交叉开关，和多级互连网络等。

二、分布式计算

分布式计算是近年提出的一种新的计算方式。它研究如何把一个需要非常巨大计算能力才能解决的问题分成许多小的部分，然后把这些部分分配给许多计算机进行处理，最后将这些计算结果综合起来得到最终结果。

分布式计算有以下优点：

1、稀有资源可以共享

2、通过分布式计算可以在多台计算机上平衡负载

3、可以把程序放在最适合它的计算机上

其中，共享稀有资源和平衡负载是分布式计算的核心思想之一

三、网格计算

实际上，网格计算是分布式计算的一种，如果说某些工作是分布式的，那么参加这项工作的一定不只是一台计算机，而是一个计算机网络，显然这种计算方式具有很强的数据处理能力，网格计算的实质就是组合共享资源并确保系统安全。

四、云计算

狭义云计算是指IT基础设施的交付和使用模式，指通过网络以按需、易扩展的方式获得所需的资源；广义云计算是指服务的交付和使用模式，指通过网络以按需易扩展的方式获得所需的服务。这种服务可以是IT和软件、互联网相关，也可以是其他服务。提供资源的网络被称为“云”，“云”中的资源在使用者看来是可以无限扩展的，并可以随时获取，按需使用，随时扩展，按使用付费。云计算的产业分为三层：云软件、云平台、云设备