并行計(jì)算（Parallel Computing）

并行計(jì)算的主要目的是快速解決大型且復(fù)雜的計(jì)算問(wèn)題。

并行計(jì)算可以劃分成時(shí)間并行和空間并行。時(shí)間并行即流水線(xiàn)技術(shù)，空間并行使用多個(gè)處理器執(zhí)行并發(fā)計(jì)算，當(dāng)前研究的主要是空間的并行問(wèn)題。

以程序和算法設(shè)計(jì)人員的角度看，并行計(jì)算又可分為數(shù)據(jù)并行和任務(wù)并行。數(shù)據(jù)并行把大的任務(wù)化解成若干個(gè)相同的子任務(wù)，處理起來(lái)比任務(wù)并行簡(jiǎn)單。

空間上的并行導(dǎo)致兩類(lèi)并行機(jī)的產(chǎn)生，按照Michael Flynn（費(fèi)林分類(lèi)法）的說(shuō)法分為單指令流多數(shù)據(jù)流（SIMD）和多指令流多數(shù)據(jù)流（MIMD），而常用的串行機(jī)也稱(chēng)為單指令流單數(shù)據(jù)流（SISD）。

MIMD類(lèi)的機(jī)器又可分為常見(jiàn)的五類(lèi)：并行向量處理機(jī)（PVP）、對(duì)稱(chēng)多處理機(jī)（SMP）、大規(guī)模并行處理機(jī)（MPP）、工作站機(jī)群（COW）、分布式共享存儲(chǔ)處理機(jī)（DSM）。

分布式計(jì)算（Distributed Computing）

分布式計(jì)算，把需要進(jìn)行大量計(jì)算的工程數(shù)據(jù)分區(qū)成小塊，由多臺(tái)計(jì)算機(jī)分別計(jì)算，在上傳運(yùn)算結(jié)果后，將結(jié)果統(tǒng)一合并得出數(shù)據(jù)結(jié)論。

目前常見(jiàn)的分布式計(jì)算項(xiàng)目通常使用世界各地上千萬(wàn)志愿者計(jì)算機(jī)的閑置計(jì)算能力，通過(guò)互聯(lián)網(wǎng)進(jìn)行數(shù)據(jù)傳輸。如分析計(jì)算蛋白質(zhì)的內(nèi)部結(jié)構(gòu)和相關(guān)藥物的Folding@home項(xiàng)目。

并行計(jì)算與分布式計(jì)算的區(qū)別

并行計(jì)算的任務(wù)包之間相互影響，要求每個(gè)的計(jì)算結(jié)果要絕對(duì)正確，而且在時(shí)間上要盡量做到同步。

而分布式的任務(wù)包互相之間有獨(dú)立性，上一個(gè)任務(wù)包的結(jié)果未返回或者是結(jié)果處理錯(cuò)誤，對(duì)下一個(gè)任務(wù)包的處理幾乎沒(méi)有什么影響。因此，分布式的實(shí)時(shí)性要求不高，而且允許存在計(jì)算錯(cuò)誤（因?yàn)槊總€(gè)計(jì)算任務(wù)給好幾個(gè)參與者計(jì)算，上傳結(jié)果到服務(wù)器后要比較結(jié)果，然后對(duì)結(jié)果差異大的進(jìn)行驗(yàn)證。

集群計(jì)算(Cluster Computing)

計(jì)算機(jī)集群將一組松散集成的計(jì)算機(jī)軟件或硬件連接起來(lái)高度緊密地協(xié)作完成計(jì)算工作。在某種意義上，他們可以被看作是一臺(tái)計(jì)算機(jī)。集群系統(tǒng)中的單個(gè)計(jì)算機(jī)通常稱(chēng)為節(jié)點(diǎn)，通常通過(guò)局域網(wǎng)連接。

根據(jù)組成集群系統(tǒng)的計(jì)算機(jī)之間體系結(jié)構(gòu)是否相同，集群可分為同構(gòu)與異構(gòu)兩種。集群計(jì)算機(jī)按功能和結(jié)構(gòu)可以分為：

高可用性集群（High-availability (HA) clusters）一般是指當(dāng)集群中有某個(gè)節(jié)點(diǎn)失效的情況下，其上的任務(wù)會(huì)自動(dòng)轉(zhuǎn)移到其他正常的節(jié)點(diǎn)上。某節(jié)點(diǎn)進(jìn)行離線(xiàn)維護(hù)再上線(xiàn)，也并不影響整個(gè)集群的運(yùn)行。

負(fù)載均衡集群（Loadbalancing clusters），又稱(chēng)服務(wù)器群（Server Farm），一般通過(guò)一個(gè)或者多個(gè)前端負(fù)載均衡器，將工作負(fù)載分發(fā)到后端的一組服務(wù)器上。一般會(huì)同時(shí)具有高可用性與負(fù)載均衡的特點(diǎn)。

高性能計(jì)算集群（High-performance (HPC)clusters）主要用于科學(xué)計(jì)算，適合完成并行運(yùn)算，在計(jì)算中各計(jì)算節(jié)點(diǎn)之間會(huì)發(fā)生大量數(shù)據(jù)通訊。

網(wǎng)格計(jì)算（Grid Computing）

組合與共享資源并確保系統(tǒng)安全，利用大量異構(gòu)計(jì)算機(jī)的未用資源（CPU周期和磁盤(pán)存儲(chǔ)），將其作為嵌入在分布式電信基礎(chǔ)設(shè)施中的一個(gè)虛擬的計(jì)算機(jī)集群，為解決大規(guī)模的計(jì)算問(wèn)題提供一個(gè)模型。

集群計(jì)算與網(wǎng)格計(jì)算的區(qū)別

網(wǎng)格與傳統(tǒng)集群的主要差別是網(wǎng)格是連接一組相關(guān)并不信任的計(jì)算機(jī)，它的運(yùn)作更像一個(gè)計(jì)算公共設(shè)施而不是一個(gè)獨(dú)立的計(jì)算機(jī)。

網(wǎng)格本質(zhì)上就是動(dòng)態(tài)的，集群包含的處理器和資源的數(shù)量通常都是靜態(tài)的。在網(wǎng)格上，資源則可以動(dòng)態(tài)出現(xiàn)或從網(wǎng)格中刪除。集群互連技術(shù)可以產(chǎn)生非常低的網(wǎng)絡(luò)延時(shí)，而網(wǎng)格由于動(dòng)態(tài)特性，可以提供很好的高可擴(kuò)展性。很多網(wǎng)格都在自己管理的資源中采用了集群。

云計(jì)算（Cloud Computing）

云計(jì)算除了計(jì)算概念，還有運(yùn)營(yíng)服務(wù)等概念，應(yīng)用分布式存儲(chǔ)和分布式緩存、虛擬化等技術(shù)。主要面向社交網(wǎng)絡(luò)、企業(yè)IT建設(shè)和信息化等領(lǐng)域，以數(shù)據(jù)密集型、I/O密集型應(yīng)用為主。它是分布式計(jì)算、并行計(jì)算和網(wǎng)格計(jì)算的發(fā)展，或者說(shuō)是這些概念的商業(yè)實(shí)現(xiàn)。

超算 （HPC）

超級(jí)計(jì)算機(jī)，主要面向科學(xué)計(jì)算、工程模擬等領(lǐng)域，大多屬于計(jì)算密集型的應(yīng)用。

超算與云計(jì)算的區(qū)別

超級(jí)計(jì)算機(jī)就好比是F1，而云就好比是公共汽車(chē)。F1可以非常快地把一個(gè)人帶到目的地，而公共汽車(chē)擅長(zhǎng)同時(shí)為多個(gè)乘客服務(wù)。云使用虛擬化技術(shù)提高CPU和IO利用率，而超級(jí)計(jì)算機(jī)生來(lái)就是為了跑滿(mǎn)CPU的，使用虛擬化技術(shù)反而拖后腿。

總結(jié)

以上是生活随笔為你收集整理的概念区分：并行、分布式、集群、云、超算的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。