沈昌祥院士：自主可信計算筑牢人工智能安全底座

編者按：習(xí)近平總書記指出，“科學(xué)普及是實(shí)現(xiàn)創(chuàng)新發(fā)展的重要基礎(chǔ)性工作?！睘橹Ω咚娇萍甲粤⒆詮?qiáng)，中國科協(xié)科普部聯(lián)合光明網(wǎng)推出“院士高端科普”欄目，邀請各領(lǐng)域院士就我國當(dāng)下熱點(diǎn)科技問題給予權(quán)威解答，服務(wù)引導(dǎo)更多科技工作者提升科研科普能力，促進(jìn)全民科學(xué)素質(zhì)提升，為科技強(qiáng)國建設(shè)貢獻(xiàn)科普力量。#千萬IP創(chuàng)科普

黨的二十大報告對加快建設(shè)網(wǎng)絡(luò)強(qiáng)國作出了重要戰(zhàn)略部署，網(wǎng)絡(luò)強(qiáng)國建設(shè)已成為社會主義現(xiàn)代化國家建設(shè)的重要內(nèi)容。隨著網(wǎng)絡(luò)空間崛起為繼陸、海、空、天之后的第五大主權(quán)領(lǐng)域，我國面臨著日益嚴(yán)峻的網(wǎng)絡(luò)安全挑戰(zhàn)。

當(dāng)前，人工智能的發(fā)展如火如荼，在推進(jìn)網(wǎng)絡(luò)強(qiáng)國建設(shè)的過程中，確保人工智能技術(shù)的安全可控，防范其潛在的網(wǎng)絡(luò)安全風(fēng)險，成為亟待解決的關(guān)鍵問題。

人工智能在賦能人類社會、加快發(fā)展新質(zhì)生產(chǎn)力、創(chuàng)建虛實(shí)融合新型網(wǎng)絡(luò)空間的同時，正逐漸衍生出可能危及國家安全和人類安全的重大風(fēng)險。去年，馬斯克在內(nèi)的一眾全球范圍內(nèi)AI領(lǐng)域重要人士聯(lián)合公告“應(yīng)將緩解人工智能導(dǎo)致的滅絕風(fēng)險，與其他社會規(guī)模風(fēng)險（如大流行病和核戰(zhàn)爭）等同重視，作為全球優(yōu)先事項(xiàng)”。

大模型參數(shù)規(guī)模龐大，動輒上千億甚至萬億，研發(fā)投入高達(dá)數(shù)百億人民幣，它們的興起，開創(chuàng)了智能化應(yīng)用新局面。但大模型自身無安全可信和倫理道德的特性，給人類社會帶來了不利影響。

一方面，大模型繼承了深度學(xué)習(xí)的“黑盒子”特性，復(fù)雜的參數(shù)與神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)使得決策和推理過程難以透明，從而可能引發(fā)虛假、偏見、侵權(quán)及倫理問題。另一方面，海量數(shù)據(jù)的處理也伴隨著數(shù)據(jù)安全風(fēng)險，隱私泄露、侵權(quán)以及惡意利用等問題層出不窮，其中“幻覺”、偏見和違反法律法規(guī)、風(fēng)俗習(xí)慣等問題尤為棘手。

面對這些挑戰(zhàn)，我們急需一種能夠保障信息系統(tǒng)可預(yù)期性的技術(shù)——可信計算?？尚庞嬎悖櫭剂x，就是在計算的同時進(jìn)行安全防護(hù)，確保計算結(jié)果與預(yù)期一致，全程可測可控，不受外界干擾。這一技術(shù)將人類社會中行之有效的管理策略應(yīng)用于計算機(jī)信息系統(tǒng)及網(wǎng)絡(luò)環(huán)境中，通過建立信任根和信任鏈，層層遞進(jìn)，將信任關(guān)系擴(kuò)展到系統(tǒng)的每一個角落，從而確保整個系統(tǒng)的可信度。

在保證計算可信的同時，技術(shù)自主也是必要條件。中央“市場準(zhǔn)入十條”（《關(guān)于完善市場準(zhǔn)入制度的意見》）中的“自主可信計算”不是泛指可信計算技術(shù)，而是指源自中國、完全自主的可信計算技術(shù)——可信3.0，故文件中特地強(qiáng)調(diào)“自主”二字。

我認(rèn)為，網(wǎng)絡(luò)安全實(shí)質(zhì)是計算科學(xué)問題，而自主可信計算是保障信息系統(tǒng)可預(yù)期性的關(guān)鍵技術(shù)。通過構(gòu)建主動免疫的可信計算體系，可以降低網(wǎng)絡(luò)空間的脆弱性，提高應(yīng)對未知惡意攻擊的能力，從而有效保障國家網(wǎng)絡(luò)空間的安全。

中國在可信計算的發(fā)展上做出的戰(zhàn)略部署可謂高瞻遠(yuǎn)矚。自1992年立項(xiàng)研制免疫的綜合安全防護(hù)系統(tǒng)以來，我們經(jīng)過長期軍民融合攻關(guān)應(yīng)用，形成了自主創(chuàng)新的安全可信體系，開啟了可信計算3.0時代。如今，可信計算已廣泛應(yīng)用于國家重要信息系統(tǒng)，如增值稅防偽、彩票防偽、二代居民身份證安全系統(tǒng)等，為國家安全和社會穩(wěn)定提供了有力保障。

以國家電網(wǎng)電力調(diào)度系統(tǒng)的安全防護(hù)建設(shè)為例，發(fā)改委14號令要求，采用可信計算架構(gòu)實(shí)現(xiàn)等級保護(hù)四級。如今，我們的電力可信計算密碼平臺已在三十四個省級以上調(diào)度控制中心得到廣泛應(yīng)用，覆蓋上千套地級以上電網(wǎng)調(diào)度控制系統(tǒng)，涉及十幾萬個節(jié)點(diǎn)、約四萬座變電站和一萬座發(fā)電廠。這一舉措有效抵御了各種網(wǎng)絡(luò)惡意攻擊，確保了電力調(diào)度的安全運(yùn)行。相比之下，美國熱推的“零信任架構(gòu)”僅相當(dāng)于可信計算3.0的一個訪問控制功能子集，存在諸多問題和挑戰(zhàn)，如架構(gòu)漏洞多、缺乏科學(xué)原理支撐、網(wǎng)絡(luò)無邊界不符合主權(quán)原則等。

面向未來，我的建議是，各級政府按照國家網(wǎng)絡(luò)安全法律、戰(zhàn)略制度要求，大力發(fā)展自主可信計算產(chǎn)業(yè)體系，為加快推進(jìn)建設(shè)網(wǎng)絡(luò)強(qiáng)國、數(shù)字中國做出重大貢獻(xiàn)。

（作者：沈昌祥，中國工程院院士、中央網(wǎng)信辦專家咨詢委員會顧問，光明網(wǎng)記者李欣哲整理）