三星推出“會思考”的HBM2內(nèi)存 具備1.2 TFLOPS嵌入式計算能力

三星宣布新的HBM2內(nèi)存集成了AI處理器，最高可提供1.2 TFLOPS嵌入式計算能力，使內(nèi)存芯片本身可以執(zhí)行CPU、GPU、ASIC或FPGA的操作。

據(jù)TomsHardware報道，新的HBM-PIM (processing-in-memory) 芯片在每個內(nèi)存模塊內(nèi)注入了一個AI處理器，從而將處理操作轉(zhuǎn)移到HBM本身。這種新型內(nèi)存的設(shè)計是為了減輕內(nèi)存與一般處理器之間轉(zhuǎn)移數(shù)據(jù)的負(fù)擔(dān)，因為實際應(yīng)用中，這種負(fù)擔(dān)無論在功耗還是時間上，往往比真正的計算操作消耗更大。

三星表示，將這項技術(shù)應(yīng)用到稱為Aquabolt的HBM2內(nèi)存時，可以提供兩倍的性能，同時將功耗降低70%以上。三星還聲稱，使用這種新內(nèi)存不需要任何軟件或硬件變化（包括內(nèi)存控制器），從而可以被市場更快地采用。目前該方案可以在進(jìn)行商業(yè)驗證，預(yù)計所有驗證將在今年上半年完成，這也標(biāo)志著離實際應(yīng)用已經(jīng)不遠(yuǎn)了。

在前一段時間舉行的國際固態(tài)電路虛擬會議(ISSCC)期間，三星展示了其新內(nèi)存架構(gòu)的更多細(xì)節(jié)。每個存儲器組都有一個嵌入式可編程計算單元（PCU），運行頻率為300MHz。該單元通過來自主機(jī)的常規(guī)存儲器命令進(jìn)行控制，以實現(xiàn)in-DRAM處理，它可以執(zhí)行各種FP16計算。存儲器也可以在標(biāo)準(zhǔn)模式下工作，也就是說它可以像普通的HBM2一樣工作，或者在FIM模式下進(jìn)行內(nèi)存數(shù)據(jù)處理。

當(dāng)然，為PCU單元騰出空間會降低內(nèi)存容量，與標(biāo)準(zhǔn)的8Gb HBM2裸片相比，每個PCU配備的內(nèi)存裸片只有一半的容量（4Gb）。為了幫助解決這個問題，三星采用了6GB堆棧，將4個帶有PCU的4Gb裸片與4個沒有PCU的8Gb裸片組合在一起（而不是普通HBM2的8GB堆棧）。

一般用戶想用上這種內(nèi)存還需要一些時間，至少目前不會在最新的游戲GPU上使用它。三星指出，這種新的內(nèi)存首先要滿足數(shù)據(jù)中心、HPC系統(tǒng)等大規(guī)模應(yīng)用處理的需求。還有一個挑戰(zhàn)性的問題是內(nèi)存芯片的散熱，特別是考慮到需要堆棧，不過三星暫時沒有解釋HBM-PIM芯片會如何解決。