多款主流GPU被發(fā)現(xiàn)漏洞 或泄露AI大模型數(shù)據(jù)

日前據(jù)報(bào)道，安全研究人員Trail of Bits發(fā)現(xiàn)了一個(gè)漏洞，有可能從GPU內(nèi)存中竊取“關(guān)鍵數(shù)據(jù)”，英偉達(dá)、蘋果、AMD和高通等多個(gè)型號(hào)的消費(fèi)性GPU受到影響。

該漏洞被命名為“LeftoverLocals”，這個(gè)漏洞不只是針對(duì)消費(fèi)者應(yīng)用程序，而是通過(guò)侵入大語(yǔ)言模型（LLM）和機(jī)器學(xué)習(xí)（ML）模型中使用的GPU來(lái)完成任務(wù)。由于模型訓(xùn)練涉及敏感數(shù)據(jù)使用，因此提取數(shù)據(jù)更危險(xiǎn)。

卡內(nèi)基梅隆大學(xué)（Carnegie Mellon University）的專家正在對(duì)LeftoverLocals進(jìn)行跟蹤，據(jù)稱該信息已經(jīng)被受其影響的主要GPU供應(yīng)商共享，其中包括英偉達(dá)、蘋果、AMD、Arm、英特爾、高通和Imagination等。

在AMD Radeon RX 7900 XT上運(yùn)行70億參數(shù)量模型時(shí)，LeftoverLocals漏洞在GPU每一次調(diào)用數(shù)據(jù)時(shí)可能會(huì)泄漏約5.5MB數(shù)據(jù)，在llama.cpp上運(yùn)行7B模型時(shí)，每次LLM查詢總共會(huì)泄漏約181MB數(shù)據(jù)。這些信息足以高精度地重建大語(yǔ)言模型響應(yīng)。

LeftoverLocals相當(dāng)依賴GPU如何隔離其內(nèi)存，而這與CPU框架不同，因此通過(guò)可編程接口獲得對(duì)GPU共享訪問(wèn)權(quán)限的攻擊者可以竊取GPU內(nèi)的內(nèi)存數(shù)據(jù)，這將帶來(lái)多種安全后果。

對(duì)于普通消費(fèi)者來(lái)說(shuō)，LeftoverLocals可能不值得擔(dān)心，但對(duì)于云端運(yùn)算或推理等產(chǎn)業(yè)的相關(guān)人員來(lái)說(shuō)，會(huì)使LLM和ML框架的安全性存在疑慮。