CPU和GPU跑深度學習差別有多大

2021-03-07 01:43:40 字數 5038 閱讀 4525

1樓:匿名使用者

gpu 的架構與 cpu 很不一樣。首先,gpu 並不具備多功能性。其次,與消費級 cpu 個位數的核心數目不同,消費級的 gpu 通常有上千個核心——特別適合處理大型資料集。

由於 gpu 在設計之初有且只有乙個目的:最大化平行計算。每一代製程縮減直接帶來更多的核心數量(摩爾定律對於 gpu 更明顯),意味著 gpu 每年有大約 40% 的效能提公升。

gpu適合深度學習的三大理由(按重要程度排序):高寬頻的記憶體;多執行緒並行下的記憶體訪問隱藏延遲;數量多且速度快的可調整的暫存器和l1快取。

深度學習之中使用神經網路訓練,乙個最大的問題就是訓練速度的問題,特別是對於深度學習而言,過多的引數會消耗很多的時間,在神經網路訓練過程中,運算最多的是關於矩陣的運算,這個時候就正好用到了gpu,gpu本來是用來處理圖形的,但是因為其處理矩陣計算的高效性就運用到了深度學習之中。

2樓:卜馳柳卉

這顯示卡不是沒有gpu。。。只是a卡支援的opencl加速而已,現在caffe不支援opencl的,你顯示卡384個流處理器計算起來是可以比四核cpu快3倍的,建議你自己構建網路別用框架,然後用opencl加速比較實際。除非你不注重時間跟效率。

再不然就換成n卡咯,但成本需要考慮了。

用gpu和cpu伺服器深度學習,哪個合算?

3樓:ai撲社

gpu合算

cpu擅長邏輯控制,序列的運算。

gpu擅長的是大規模併發計算。

gpu的工作大

部分計算量大,但沒什麼技術含量,而且要重複很多很多次。gpu用很多簡單的計算單元去完成大量的計算任務,純粹的人海戰術。

4樓:隨風而至喵小姐

如果是深度學習,那麼gpu的效能和**更好,比如這款配置了nvdia rtgeforce rtx 2080 ti的gpu計算卡,也才兩w,價效比很高

產品型號:za1p2s8-16897-tc2產品型別:單路十六核塔式gpu計算伺服器

處 理 器:threadripper 2950x內 存:64g ddr4

硬 盤:ssd nvme m.2 512g網 卡:雙千兆

管 理:硬體監控、遠端管理

機 構:塔式

電 源:1250w

作業系統:linux免費版 / vmware esxi服 務:全國聯保 叄年質保

5樓:太陽島

cpu是乙個有多種功能的優秀領導者。它的優點在於排程、管理、協調能力強,計算能力則位於其次。而gpu相當於乙個接受cpu排程的「擁有大量計算能力」的員工。

當需要對大資料bigdata做同樣的事情時,gpu更合適,當需要對同一資料做很多事情時,cpu正好合適。

gpu能做什麼?關於圖形方面的以及大型矩陣運算,如機器學習演算法等方面,gpu就能大顯身手。

簡而言之,cpu擅長統領全域性等複雜操作,gpu擅長對大資料進行簡單重複操作。cpu是從事複雜腦力勞動的教援,而gpu是進行大量平行計算的體力勞動者。

深度學習是模擬人腦神經系統而建立的數學網路模型,這個模型的最大特點是,需要大資料來訓練。因此,對電腦處理器的要求,就是需要大量的並行的重複計算,gpu正好有這個專長。

6樓:博百優小

說道經濟實惠,那肯定租用gpu伺服器更靠譜。硬體配置不太懂,不過我的**是室友推薦的易學智慧型上租的gpu跑的,比自己組裝肯定是要划算,當然小白也不會弄硬體方面。整體來說,租用還是方便,適合我這樣的小白上手。

個人意見僅供參考,大神勿噴。

深度學習用cpu訓練和用gpu訓練有什麼區別

7樓:課文你來說

(1)cpu主要用於序列運算;而gpu則是大規模並行運算。由於深度學習中樣本量巨大,參數量也很大,所以gpu的作用就是加速網路運算。

(2)cpu算神經網路也是可以的,算出來的神經網路放到實際應用中效果也很好,只不過速度會很慢罷了。而目前gpu運算主要集中在矩陣乘法和卷積上,其他的邏輯運算速度並沒有cpu快。

2、深度學習

深度學習的概念源於人工神經網路的研究。含多隱層的多層感知器就是一種深度學習結構。深度學習是機器學習研究中的乙個新的領域,其動機在於建立、模擬人腦進行分析學習的神經網路,它模仿人腦的機制來解釋資料,例如影象,聲音和文字。

深度學習是機器學習中一種基於對資料進行表徵學習的方法。觀測值(例如一幅影象)可以使用多種方式來表示,如每個畫素強度值的向量,或者更抽象地表示成一系列邊、特定形狀的區域等。

使用神經網路訓練,乙個最大的問題就是訓練速度的問題,特別是對於深度學習而言,過多的引數會消耗很多的時間,在神經網路訓練過程中,運算最多的是關於矩陣的運算,這個時候就正好用到了gpu,gpu本來是用來處理圖形的,但是因為其處理矩陣計算的高效性就運用到了深度學習之中。

8樓:匿名使用者

gpu概念

gpu英文全稱graphic processing unit,中文翻譯為「圖形處理器」。gpu是相對於cpu的乙個概念,由於在現代的計算機中(特別是家用系統,遊戲的發燒友)圖形的處理變得越來越重要,需要乙個專門的圖形的核心處理器。

gpu的作用

gpu是顯示卡的「大腦」,它決定了該顯示卡的檔次和大部分效能,同時也是2d顯示卡和3d顯示卡的區別依據。2d顯示晶元在處理3d影象和特效時主要依賴cpu的處理能力,稱為「軟加速」。3d顯示晶元是將三維影象和特效處理功能集中在顯示晶元內,也即所謂的「硬體加速」功能。

顯示晶元通常是顯示卡上最大的晶元(也是引腳最多的)。現在市場上的顯示卡大多採用nvidia和ati兩家公司的圖形處理晶元。

於是nvidia公司在2023年發布geforce 256圖形處理晶元時首先提出gpu的概念。gpu使顯示卡減少了對cpu的依賴,並進行部分原本cpu的工作,尤其是在3d圖形處理時。gpu所採用的核心技術有硬體t&l、立方環境材質貼圖和頂點混合、紋理壓縮和凹凸對映貼圖、雙重紋理四畫素256位渲染引擎等,而硬體t&l技術可以說是gpu的標誌。

簡單說gpu就是能夠從硬體上支援t&l(transform and lighting,多邊形轉換與光源處理)的顯示晶元,因為t&l是3d渲染中的乙個重要部分,其作用是計算多邊形的3d位置和處理動態光線效果,也可以稱為「幾何處理」。乙個好的t&l單元,可以提供細緻的3d物體和高階的光線特效;只不過大多數pc中,t&l的大部分運算是交由cpu處理的(這就也就是所謂的軟體t&l),由於cpu的任務繁多,除了t&l之外,還要做記憶體管理、輸入響應等非3d圖形處理工作,因此在實際運算的時候效能會大打折扣,常常出現顯示卡等待cpu資料的情況,其運算速度遠跟不上今天覆雜三維遊戲的要求。即使cpu的工作頻率超過1ghz或更高,對它的幫助也不大,由於這是pc本身設計造成的問題,與cpu的速度無太大關係。

關於cpu和gpu的相關問題

第乙個問題:

gpu的競爭遠比cpu的競爭來得激烈。通用pc的cpu就只有英特爾和amd兩家大廠。而在gpu方面領先的是n記和a記兩家廠商,但能生產中低端產品的還有英特爾、3s等好幾家廠商。

它們的產品雖然不如前兩家,但在很多應用方面也能滿足使用者的需要,所以n記和a記只有拼命往前跑才不會死掉。cpu廠商沒有採用gpu的先進工藝是因為cpu廠商都有自己投資的生產線,不可能一下把原來的生產線都淘汰了上新的生產線,那樣做可能連當初投入的資金都難以收回。而gpu廠商由於種種原因,一般都是自己設計由別人代工的,比如找台積電代工。

代工廠商為了能接到業務,只有不停公升級自己的生產裝置,這樣才能生存下來。所以造成以上原因。

第二個問題

就如你所說的一樣,cpu除了處理遊戲的ai,情節等方面的資料外,對於有些影象方面也是由它完成的。當微軟每次發布新的dx時,並不是每款gpu都能支援dx新的特性,所以有些影象方面的任務還得由cpu來完成。還有有些特性比如重力特性以前是由cpu來完成,現在有些gpu也能支援了,這些任務就由gpu來完成了。

第三個問題

gpu相當於專用於影象處理的cpu,正因為它專,所以它強,在處理影象時它的工作效率遠高於cpu,但是cpu是通用的資料處理器,在處理數值計算時是它的強項,它能完成的任務是gpu無法代替的,所以不能用gpu來代替cpu。

另外現在amd收購了a記顯示卡晶元的設計廠商,amd看到今後cpu和gpu只有走一條融合的道路才能地競爭中佔得先機。cpu和gpu如何配合默契才能最大地提高工作效率是amd現在考慮的問題,也是英特爾的問題。

第四個問題

微軟發布windows7 其中乙個顯著特性就是 聯合gpu和cpu的強大實力,提公升gpu在硬體使用的價值,在windows7中,cpu與gpu組成了協同處理環境。cpu運算非常複雜的序列**,而gpu則執行大規模並行應用程式。微軟利用directx ***pute將gpu作為作業系統的核心組成部分之一。

directx ***pute。它讓開發人員能夠利用 gpu的大規模平行計算能力,創造出引人入勝的消費級和專業級計算應用程式。簡單的說,directx ***pute就是微軟開發的gpgpu通用計算介面,欲統一gpu通用計算標準。

也就是說windows7 以後gpu的硬體地位將僅次於cpu,發揮出更大的效用。

gpu和cpu在深度學習上效能差異有多大,看看.來自tobe

9樓:匿名使用者

gpu具有多達上千個並行處理流水線,比cpu的多核,在平行計算方面強多了。

深度學習用gpu好還是cpu好? 5

10樓:匿名使用者

個人覺得,這個課題,可以通過實踐去驗證……

分別用cpu和gpu進行一下試驗,看看哪個效果好……效果更好的,就是最佳的選擇……

11樓:熱過火啊

不是很了解你的計算需求,不過從效率來說。目前用gpu的效率好過cpu幾倍。看你資料量 1660ti不太適合這種應用場景。視訊記憶體不夠的可能性肯定存在。建議試下。不行再加記憶體

希望對你有所幫助。不懂繼續問,滿意請採納

12樓:蜀中諸葛暗

現在做深度學習可以採用雲計算資源,多種顯示卡(特斯拉p4 p40 p100 2080ti t4)多種預裝環境(cuda,tensorflow python)可以選擇,而且隨用隨開就行,一小時幾元錢,滴滴打車現在也做雲gpu,用過幾次挺不錯的https://i.didiyun.

***/2blhvrc4m6a

深度學習和深度強化學習的區別深度學習和強化學習有什麼區別?去哪裡可以學習?

強化學習 和深度學習是兩種技術,只不過深度學習技術可以用到強化學習上,這個就叫深度強化學習.1.強化學習其實也是機器學習的乙個分支,但是它與我們常見的機器學習不太一樣。它講究在一系列的情景之下,通過多步恰當的決策來達到乙個目標,是一種序列多步決策的問題。強化學習是一種標記延遲的監督學習。2.強化學習...

深度學習和機器學習是什麼關係,深度學習和機器學習的區別是什麼

深度學習是機copy器學習的乙個領域 深度學習以神經網路模型為基礎,難度比較大 目前深度學習裡面的成熟模型很多,cnn rnn gan transformer 等等 自然語言處理有bert 現在很多智慧型領域已經唯深度學習技術不用了 深度學習和機器學習的區別是什麼 兩者不是同乙個level上的,深度...

CPU和GPU散熱矽脂多久更換為宜

這年頭還有不塗矽脂的麼?就算盒裝自帶的散熱上面都有。顯示卡沒有散熱片麼?莫非你自己拆下來了?問題補充 哥從來沒見過風扇被燒化的,那風扇是冰做的麼?100 130度左右,機器就很可能自動關機了,那風扇連100來度都受不了,不化也沒啥用了。矽脂只要不幹就沒有必要更換,一般根據品質不同,幹的時間在1年 5...