ChatGPT發(fā)布距今已有近一年。隨著其技術(shù)和應(yīng)用從小范圍的新奇嘗試走向與千行百業(yè)融合，與之相關(guān)的安全問題也走到聚光燈下。

2023年11月27日，美國、英國和其他十幾個國家共同簽署了國際協(xié)議《安全人工智能系統(tǒng)開發(fā)指南》（以下簡稱“指南”），幫助人工智能開發(fā)者依循“設(shè)計安全”的方法打造AI系統(tǒng)。

“安全性必須是核心要求，不僅開發(fā)階段，在系統(tǒng)的整個生命周期中都應(yīng)保障安全。”指南發(fā)布的官方公告中如此寫道。

18國簽署協(xié)議

據(jù)悉，指南由英國國家網(wǎng)絡(luò)安全中心（National Cyber Security Agency，NCSC）主導(dǎo)，并與美國網(wǎng)絡(luò)安全和基礎(chǔ)設(shè)施安全局(Cybersecurity and Infrastructure Security Agency，CISA)共同制定。

據(jù)悉，這一指南并不具備強制性，其旨在幫助任何使用人工智能系統(tǒng)的開發(fā)人員在開發(fā)過程的每個階段做出明智的網(wǎng)絡(luò)安全決策，包括從零開始設(shè)計的或建立在已有的工具和服務(wù)之上的系統(tǒng)。 

具體來看，其從安全設(shè)計、安全開發(fā)、安全部署以及安全運維四個關(guān)鍵領(lǐng)域給出了建議。

在對外經(jīng)濟貿(mào)易大學(xué)數(shù)字經(jīng)濟與法律創(chuàng)新研究中心執(zhí)行主任張欣看來，協(xié)議覆蓋人工智能研發(fā)、部署和運行的整個生命周期，具有系統(tǒng)性指引的特征。 

在安全設(shè)計方面，指南要求系統(tǒng)所有者提高員工對威脅和風(fēng)險的認(rèn)識、對系統(tǒng)面臨的威脅進行建模、在設(shè)計時考慮安全性、功能和性能、選擇 AI 模型時考慮安全優(yōu)勢和權(quán)衡等。

“強調(diào)安全設(shè)計原則，即將治理的節(jié)點前置到設(shè)計階段，可以一定程度上有效避免‘先污染、后治理’的傳統(tǒng)風(fēng)險治理路徑所帶來的弊端和局限。”張欣指出。

在開發(fā)階段，開發(fā)人員需采用確保供應(yīng)鏈安全，遵守適用的安全標(biāo)準(zhǔn)；還需確保加密措施得到有效實施，以保護數(shù)據(jù)隱私等。

而部署階段，指南提出了包括保護基礎(chǔ)設(shè)施和模型免受損害、制定事件管理程序、負(fù)責(zé)任地發(fā)布AI系統(tǒng)、保障配置時的默認(rèn)選項能夠廣泛地抵御常見威脅等。

在安全運維方面，指南則提供了系統(tǒng)部署后的安全保障舉措，包括運營人員應(yīng)監(jiān)控和記錄輸入端信息，以便在出現(xiàn)漏洞時調(diào)查和補救、呼吁運營人員參與信息共享社區(qū)，積極收集、分享經(jīng)驗教訓(xùn)等。

值得注意的是，指南中多次強調(diào)了評估和監(jiān)控人工智能供應(yīng)鏈的安全性，要求模型擁有者對訓(xùn)練數(shù)據(jù)、代碼和模型的安全性做好監(jiān)控。

“這點十分重要。”在張欣看來，與傳統(tǒng)的人工智能供應(yīng)鏈相比，以生成式人工智能為代表的供應(yīng)鏈結(jié)構(gòu)實際上發(fā)生了實質(zhì)性的變革，治理和監(jiān)管框架應(yīng)予以相應(yīng)回應(yīng)和調(diào)整。協(xié)議中要求確保整個供應(yīng)鏈的安全，體現(xiàn)了技術(shù)邏輯、產(chǎn)業(yè)邏輯和法律邏輯的有機結(jié)合。

據(jù)悉，除了英國和美國，簽署協(xié)議的18個國家還包括德國、意大利、新加坡、澳大利亞等。

凝聚共識仍是難點

隨著人工智能治理的加速，各個國家、地區(qū)相關(guān)文件出臺節(jié)奏逐漸加快。

我國于今年7月發(fā)布《生成式人工智能服務(wù)管理辦法》；歐盟的《人工智能法案》今年來也已經(jīng)歷經(jīng)多輪修改和爭議；美國則于日前發(fā)布《關(guān)于安全、可靠和可信地開發(fā)和使用人工智能的行政命令》以期推進人工智能的開發(fā)和使用。

除了各國相繼出臺人工智能治理文件，跨越國家和地區(qū)的相關(guān)文件發(fā)布也逐漸密集。

“一系列治理文件恰是在全球人工智能治理新秩序形成過程中的必然階段。”張欣認(rèn)為，近期出現(xiàn)的一系列技術(shù)及其應(yīng)用使人類正以前所未有的速度逼近通用人工智能。這一發(fā)展趨勢革新了全球人工智能治理的格局，推動構(gòu)建匯聚廣泛共識的全球人工智能治理體系也日益成為各方共同訴求。

比如10月，七國集團發(fā)布《開發(fā)先進人工智能系統(tǒng)組織的國際行為準(zhǔn)則》，呼吁公司應(yīng)定期評估其模型的風(fēng)險，并關(guān)注可能對民主價值觀或社會構(gòu)成威脅的系統(tǒng)。

同月早些時候，聯(lián)合國成立了一個新的AI咨詢機構(gòu)，為國際社會加強對AI的治理提供支持。這一機構(gòu)主要任務(wù)包括就風(fēng)險和挑戰(zhàn)建立全球科學(xué)共識，為利用AI實現(xiàn)可持續(xù)發(fā)展目標(biāo)提供助力，以及加強 AI方面的國際合作。

不過張欣也提醒道，目前，人工智能治理的國際合作仍然在現(xiàn)階段具有高度碎片化特征。一些國家和地區(qū)可能廣泛推行基于意識形態(tài)認(rèn)同的“技術(shù)治理聯(lián)盟”，甚至出現(xiàn)為了贏得技術(shù)和經(jīng)濟競爭優(yōu)勢而削減監(jiān)管的問題。因此，未來一段時間內(nèi)，仍然需要探尋真正多元、包容、公平的全球人工智能治理協(xié)同與合作機制。

“如何真正匯聚共識，達(dá)成全球范圍內(nèi)的有效協(xié)同仍然是難點與挑戰(zhàn)。”她指出。

來源：21世紀(jì)經(jīng)濟報道 作者：馮戀閣