英偉達(dá)論文談下代GPU：浮點(diǎn)性能最低24.2TFlops

據(jù)外媒Wccftech報(bào)道，NVIDIA近日發(fā)表了一篇神秘的論文，描述了一種關(guān)于它打算如何使用GPU小芯片的新技術(shù)。該論文提到了“gpu-n”，這是一種可用于具有模塊化設(shè)計(jì)的GPU的小芯片。該小芯片有8576個(gè)核心，分布在134個(gè) SM上，比A100 GPU的數(shù)量略多。

gpu-n的核心頻率為1.4GHz，理論fp32（單精度浮點(diǎn)）算力最低24.2 teraflops，比A100 GPU的19.5 teraflops提升了24%。而fp16性能（半精度）最低779 tflops，比A100 GPU提高了兩倍以上。此外，L2緩存的容量也比A100 GPU增加了50%。

在緩存方面，Nvidia談到了兩種不同的變體，一種用于高性能計(jì)算，而第二種則非常適合深度學(xué)習(xí)。后者有一個(gè)額外的小芯片，專門用于額外的960GB甚至1920GB的緩存。另外，該卡還將擁有最高可達(dá)233GB的hbm2e顯存，顯存接口允許帶寬為6.3TB/s。

通過此次論文的內(nèi)容與曝光時(shí)間推測，這些技術(shù)很可能會用于NVIDIA的下代核心架構(gòu)Hopper。