GPU 可以加速计算，能将应用程序计算密集部分的工作负载转移到 GPU，同时仍由 CPU 运行其余程序代码。从用户的角度来看，应用程序的运行速度明显加快。

GPU 與 CPU 性能比較

理解 GPU 和 CPU 之间区别的一种简单方式是比较它们如何处理任务。CPU 由专为顺序串行处理而优化的几个核心组成，而 GPU 则拥有一个由数以千计的更小、更高效的核心（专为同时处理多重任务而设计）组成的大规模并行计算架构。

CPU是一個有多種功能的優秀領導者。它的優點在于調度、管理、協調能力強，計算能力則位于其次。而GPU相當于一個接受CPU調度的“擁有大量計算能力”的員工。

下圖是處理器內部結構圖：

DRAM即动态随机存取存儲器，是常见的系统内存。

Cache存儲器：电脑中作高速缓冲存儲器，是位于CPU和主存儲器DRAM之间，规模较小，但速度很高的存儲器。

算術邏輯單元ALU是能實現多組算術運算和邏輯運算的組合邏輯電路。

當需要對大數據bigdata做同樣的事情時，GPU更合適，當需要對同一數據做很多事情時，CPU正好合適。

GPU能做什麽？關于圖形方面的以及大型矩陣運算，如機器學習算法等方面，GPU就能大顯身手。

簡而言之，CPU擅長統領全局等複雜操作，GPU擅長對大數據進行簡單重複操作。CPU是從事複雜腦力勞動的教援，而GPU是進行大量並行計算的體力勞動者。

機器深度學習

深度學習是模擬人腦神經系統而建立的數學網絡模型，這個模型的最大特點是，需要大數據來訓練。因此，對電腦處理器的要求，就是需要大量的並行的重複計算，GPU正好有這個專長，時勢造英雄，因此，GPU就出山擔當重任了。

GPU具有如下特點：

1 、提供了多核並行計算的基礎結構，且核心數非常多，可以支撐大量數據的並行計算。

並行計算或稱平行計算是相對于串行計算來說的。它是一種一次可執行多個指令的算法，目的是提高計算速度，及通過擴大問題求解規模，解決大型而複雜的計算問題。

2、 擁有更高的訪存速度。

3、更高的浮點運算能力。浮點運算能力是關系到處理器的多媒體、3D圖形處理的一個重要指標。現在的計算機技術中，由于大量多媒體技術的應用，浮點數的計算大大增加了，比如3D圖形的渲染等工作，因此浮點運算的能力是考察處理器計算能力的重要指標。

這三個特點，非常適合深度學習了。

怎樣發揮GPU的大數據處理能力

GPU只是顯卡上的一個核心元件，又不能單獨工作，它還需要緩存來輔助工作。獨立顯卡是直接焊死了GPU在顯卡電路板上，上面有一個散熱風扇供它單獨使用。集成顯卡是把GPU與CPU放在一起，共用緩存來工作，並且公用一個散熱風扇。

電腦處理一大塊數據比處理一個一個數據更有效，執行指令開銷也會大大降低，因爲要處理大塊數據，意味著需要更多的晶體管來並行工作，現在旗艦級顯卡都是百億以上的晶體管。

因此，要利用GPU做大數據處理工作，至少目前來說，還沒有單獨的GPU板卡可購。只能購買GPU性能優越的超級獨立顯卡，或集成集卡中GPU性能優秀的主板。