操久久,日韩无码视频123,99热99在线观看,久草免费在线视频

為什么深度學(xué)習(xí)需要使用 GPU？選擇 GPU 有兩點(diǎn)原因：

1. 深度學(xué)習(xí)的運(yùn)算可以并行
2. GPU 運(yùn)算的核心數(shù)多

1. 并行運(yùn)算

深度學(xué)習(xí)會(huì)涉及大量的矩陣運(yùn)算。

對(duì)于n×k">n×k n\times k維的矩陣A=[a11a12?a1k????an1an2?ank]">A=[a11a12?a1k????an1an2?ank] A=\begin{bmatrix} a_{11} & a_{12} & \cdots & a_{1k}\\ \vdots & \vdots & \ddots & \vdots \\ a_{n1} & a_{n2} & \cdots & a_{nk} \\ \end{bmatrix}

以及k×m">k×m k\times m維的矩陣B=[b11b12?b1m????bk1bk2?bkm]">B=[b11b12?b1m????bk1bk2?bkm]

B=\begin{bmatrix} b_{11} & b_{12} & \cdots & b_{1m}\\ \vdots & \vdots & \ddots & \vdots \\ b_{k1} & b_{k2} & \cdots & b_{km} \\ \end{bmatrix}

在計(jì)算兩者乘積的結(jié)果C=A×B">C=A×B

C=A\times B時(shí)，C">C

C中任意一個(gè)元素的計(jì)算公式為：

cij=∑r=1kairbrj,i∈[1,n],j∈[1,m]">cij=∑r=1kairbrj,i∈[1,n],j∈[1,m] c_{ij}=\sum_{r=1}^{k}a_{ir}b_{rj}, i\in\left[ 1, n \right], j\in\left[ 1, m \right]

從公式中可以看出：C">C C 中的每個(gè)元素的計(jì)算沒(méi)有關(guān)聯(lián)性，因此可以同時(shí)并行運(yùn)算。

2. 核心多

好比 GPU 有好多成千上萬(wàn)的的“小計(jì)算器”，CPU 中幾個(gè)或十幾個(gè)的“高性能的小計(jì)算器”。

因此從這個(gè)可以看出，GPU 上的運(yùn)算單元比 CPU 多。

雖然 CPU 上每個(gè)單元性能高，但面對(duì)大量計(jì)算時(shí)，GPU 在完成一批矩陣運(yùn)算時(shí)，同時(shí)運(yùn)算的數(shù)量高，所以總體下來(lái)還是 GPU 適合。