AI大模型時代下，我國網(wǎng)絡(luò)安全產(chǎn)業(yè)變革正在駛?cè)搿吧钏畢^(qū)”。

自去年OpenAI掀起AI大模型風(fēng)潮后，各家跨國巨頭爭相入局，從ChatGPT到Sora，全球的AI應(yīng)用“卷出花”。與此同時，AI大模型的數(shù)據(jù)安全與法律倫理問題也引發(fā)業(yè)內(nèi)的高度關(guān)注。

從政策方面來看，當(dāng)前我國網(wǎng)絡(luò)安全領(lǐng)域的“四梁八柱”已經(jīng)形成。過去幾年內(nèi)，《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個人信息保護(hù)法》《關(guān)鍵信息基礎(chǔ)設(shè)施安全保護(hù)條例》等法律法規(guī)先后誕生，《網(wǎng)絡(luò)安全審查辦法》《云計算服務(wù)安全評估辦法》《汽車數(shù)據(jù)安全管理若干規(guī)定（試行）》《生成式人工智能服務(wù)管理暫行辦法》等政策文件也隨之出爐，這意味著我國關(guān)鍵信息基礎(chǔ)設(shè)施安全保護(hù)、網(wǎng)絡(luò)安全審查、云計算服務(wù)安全評估、數(shù)據(jù)出境安全管理、網(wǎng)絡(luò)安全服務(wù)認(rèn)證等一系列重要制度已基本建立。

但在新的技術(shù)背景下，網(wǎng)絡(luò)安全的治理邏輯也在發(fā)生著根本性的變化。

“大模型本身是一個雙刃劍，它既可以引起很多行業(yè)問題，同時又可以幫你解決很多問題。因此大模型在賦能各個產(chǎn)業(yè)的過程中會引起新的問題，這其中就包含關(guān)鍵的網(wǎng)絡(luò)安全與適配問題。”近日，中國信通院華東分院院長廖運(yùn)發(fā)在2024上海網(wǎng)絡(luò)安全產(chǎn)業(yè)創(chuàng)新大會上對21世紀(jì)經(jīng)濟(jì)報道記者表示，AI在落地過程中，需要特別要注意特定領(lǐng)域內(nèi)的標(biāo)準(zhǔn)問題，同時要滿足特定場景的要求。因此行業(yè)亟需建立相關(guān)標(biāo)準(zhǔn)來進(jìn)行規(guī)范，以此確保應(yīng)用落地時候的安全與穩(wěn)定。

AI時代的數(shù)據(jù)安全

大模型究竟會帶來哪些數(shù)字化領(lǐng)域的安全隱患？

廖運(yùn)發(fā)對記者指出，圍繞B端場景，行業(yè)尤其要特別關(guān)注AI標(biāo)準(zhǔn)適配問題以及大模型本身引起的商業(yè)機(jī)密數(shù)據(jù)、客戶數(shù)據(jù)利益的挑戰(zhàn)。而在C端場景中，則需要更關(guān)注用戶體驗。在這其中，用戶是否會發(fā)生延遲、卡頓問題，登錄是否困難，另外用戶隱私數(shù)據(jù)會不會被竊取，都是行業(yè)關(guān)心的重點所在。“當(dāng)前很多人利用大模型和人工智能方式生成很多虛假視頻，偽造人臉進(jìn)行詐騙，這需要格外注意。”

上海交通大學(xué)網(wǎng)絡(luò)安全學(xué)院教授王士林則分析了大模型與網(wǎng)絡(luò)安全的關(guān)系，在他看來，大模型可能帶來的新威脅，如內(nèi)容安全問題、功能安全問題、數(shù)據(jù)安全和部署問題等。他從學(xué)術(shù)研究的角度，分析了AI和網(wǎng)絡(luò)空間安全之間的關(guān)系。他強(qiáng)調(diào)，大模型的生成能力增強(qiáng)，使得內(nèi)容安全監(jiān)測變得復(fù)雜。與此同時如何監(jiān)測和評估生成內(nèi)容的安全性，是當(dāng)前研究的重點。

但他同時指出，數(shù)據(jù)安全和網(wǎng)絡(luò)安全差別很大，工信部牽頭聯(lián)合八個部委發(fā)布了數(shù)據(jù)安全產(chǎn)業(yè)高質(zhì)量發(fā)展三年行動計劃，其中數(shù)據(jù)安全與網(wǎng)絡(luò)安全最大的核心差別就是數(shù)據(jù)安全需要對客戶業(yè)務(wù)和場景有著透徹理解。 “如何通過有效的手段針對分類分級的標(biāo)準(zhǔn)，動態(tài)識別每個數(shù)據(jù)的分類和分級級別標(biāo)簽，這個難度很大，因為一方面數(shù)據(jù)類型特別多，另一方面數(shù)據(jù)是變化的，數(shù)據(jù)在使用過程中會變形和排列組合。”

因此，在他看來，在具體解決路徑方面，網(wǎng)絡(luò)安全與數(shù)據(jù)安全的技術(shù)手段和保護(hù)措施也是不同的，數(shù)據(jù)安全最關(guān)鍵的就是在數(shù)據(jù)采集階段對數(shù)據(jù)進(jìn)行有效分級分類的定義，同時有相應(yīng)的工具對敏感數(shù)據(jù)重要數(shù)據(jù)進(jìn)行標(biāo)簽定義級別。

從數(shù)據(jù)分類來看，當(dāng)前主要存在以下幾類數(shù)據(jù)：首先是個人隱私數(shù)據(jù)，第二類是政府和國家核心敏感數(shù)據(jù)，第三個是訓(xùn)練級的訓(xùn)練數(shù)據(jù)，因為行業(yè)都投入大模型和算法的研究，因此訓(xùn)練數(shù)據(jù)本身價值也很高，同時這也是黑灰產(chǎn)業(yè)比較關(guān)注的領(lǐng)域。

數(shù)字化的內(nèi)外部風(fēng)險

事實上，自數(shù)字化誕生的那一天開始，其內(nèi)部就伴隨著安全挑戰(zhàn)，二者也意味著數(shù)字化內(nèi)在的脆弱性是不可避免的，與生俱來的。

360集團(tuán)副總裁李博在現(xiàn)場對記者總結(jié)稱，這些安全挑戰(zhàn)主要來自于四個方面：首先，數(shù)字化的本質(zhì)是一切皆可編程，而在這一過程中就不可避免出現(xiàn)一些安全漏洞，這是程序自身稟賦的特點，無法避免，只能進(jìn)行及早的發(fā)現(xiàn)控制。

其次，在數(shù)字化到來后，萬物互聯(lián)成為可能，過去的信息化階段是系統(tǒng)和系統(tǒng)之間的互聯(lián)與數(shù)據(jù)的流動，而數(shù)字化階段中物與物之間已經(jīng)產(chǎn)生了強(qiáng)連接，而這就對物理世界帶來了嚴(yán)峻的安全問題。 

與此同時，數(shù)字化進(jìn)程加速時使得數(shù)據(jù)要素重要性急劇提升，在這種背景下，數(shù)據(jù)安全顯得前所未有的重要，因此數(shù)據(jù)安全保障怎也成為行業(yè)面臨的共同挑戰(zhàn)。最后，數(shù)字化發(fā)展的本質(zhì)就是不斷的AI智能化，而AI提高生產(chǎn)力的同時也面臨大量的安全問題。

而除了數(shù)字化演進(jìn)過程中內(nèi)部的風(fēng)險，全球同樣面臨著嚴(yán)峻的外部攻擊和威脅。“傳統(tǒng)意義上以追求炫技為主的‘黑客’已經(jīng)成為犯罪團(tuán)伙組織，其背后有大量武裝到牙齒的專業(yè)化黑客組織在網(wǎng)絡(luò)上進(jìn)行犯罪活動。這就導(dǎo)致外部的威脅已經(jīng)從單個的黑客變成了團(tuán)體化的組織。”李博說道。

在這些問題的驅(qū)動下，傳統(tǒng)的安全體系出現(xiàn)了“看不見的難題”。換言之，網(wǎng)絡(luò)上存在的很多安全問題與安全事件變得不可見。傳統(tǒng)的網(wǎng)絡(luò)安全技術(shù)手段、體系框架在面對數(shù)字安全新的形勢下，已經(jīng)在逐漸失效。

李博表示，黑客組織或國際的APT組織主要的攻擊目的已經(jīng)不再是為了讓系統(tǒng)崩潰，而是竊取核心和敏感數(shù)據(jù)。在未來，這一問題也是全球從業(yè)者需要解決的難題。

來源：21世紀(jì)經(jīng)濟(jì)報道 作者：張梓桐