作者 | 張倩茹來源 | 零壹智庫

“必須強調(diào)的是，安全科技并不是一個純商業(yè)范圍的議題，而是清晰的具備公共品的特征。”

隨著科技的進步，數(shù)字化已成為越來越清晰的現(xiàn)實。不僅僅互聯(lián)網(wǎng)，幾乎所有的行業(yè)都在擁抱數(shù)字化浪潮，隨之而來的安全風(fēng)險也呈現(xiàn)愈演愈烈之勢。

據(jù)Flashpoint發(fā)布的數(shù)據(jù)顯示，僅2022年，全球發(fā)生的數(shù)據(jù)泄露事件就高達4518件，數(shù)據(jù)量更是達到226.2億條。

“數(shù)字化安全風(fēng)險已經(jīng)進入到快迭代、高智能、全覆蓋的新階段。”中國社會科學(xué)院大學(xué)數(shù)字中國研究院聯(lián)合螞蟻集團等對外發(fā)布的《數(shù)字時代安全科技價值報告》（以下簡稱“《報告》”）中指出，2023年AI大模型橫空出世，大大推進了深度智能時代的到來，它對安全局面的影響可能是顛覆性的。當(dāng)下，我們正站在安全風(fēng)險的質(zhì)變時刻。

在這個全新階段，安全科技的重要性不言而喻，對安全科技的關(guān)注與投入已刻不容緩。安全科技作為“壓艙石”和“助燃劑”，一方面要守住技術(shù)的安全底線，另一方面要讓新技術(shù)規(guī)�；�落地，推動產(chǎn)業(yè)煥發(fā)新機。

《報告》認(rèn)為，安全科技將會是未來的通用技術(shù)之一，應(yīng)該以公共品的定位來判斷安全科技的價值，推動其發(fā)展，而政企合作是安全科技成為公共品的核心驅(qū)動力。

 01 

質(zhì)變時刻

“2008年以來，中國數(shù)字經(jīng)濟發(fā)展指數(shù)呈現(xiàn)出爆發(fā)式增長態(tài)勢。”零壹智庫在《中國數(shù)字經(jīng)濟發(fā)展指數(shù)報告（2023）》中指出，2008-2022年，中國數(shù)字經(jīng)濟發(fā)展指數(shù)從100上升至572.26，年復(fù)合增長率達13.27%，遠高于同期9.48%的經(jīng)濟發(fā)展增速。

另據(jù)中國信通院的數(shù)據(jù)，2022年我國數(shù)字經(jīng)濟規(guī)模首次突破50萬億元大關(guān)，達到50.2萬億元，占GDP比重提升至41.5%。

伴隨著數(shù)字經(jīng)濟的快速發(fā)展，新一代信息化數(shù)字技術(shù)與傳統(tǒng)行業(yè)快速融合，帶來了更加隱蔽、復(fù)雜的數(shù)字安全風(fēng)險，數(shù)據(jù)泄漏、勒索軟件、黑客攻擊等事件層出不窮。

人工智能技術(shù)大爆發(fā)之后，“算法安全”“虛假信息”“數(shù)據(jù)歧視”等問題持續(xù)突出，數(shù)字安全風(fēng)險面臨著日趨嚴(yán)峻的挑戰(zhàn)。

2023年下半年，國際身份軟件巨頭Okta業(yè)務(wù)系統(tǒng)遭到黑客攻擊，導(dǎo)致客戶敏感數(shù)據(jù)泄露；此外，《蜘蛛俠2》開發(fā)商Insomniac Games聲稱遭受攻擊，大量內(nèi)部信息被泄露。

除了企業(yè)之外，政府機構(gòu)也面臨各類數(shù)字風(fēng)險。2023年9月，美國國家安全委員會被報道泄露了其成員的近萬封電子郵件和密碼，暴露了包括美國國家航空航天局和特斯拉等在內(nèi)的2000家機構(gòu)和公司。

生成式AI的出現(xiàn)導(dǎo)致新聞更加容易以假亂真。世界經(jīng)濟論壇在《2024年全球風(fēng)險報告》中發(fā)出警告：在未來兩年的風(fēng)險展望中，由于信息錯誤與虛假信息所帶來的影響的嚴(yán)重程度，超過經(jīng)濟衰退等其他九項風(fēng)險，位列十大風(fēng)險的第一位。

在這樣的背景下，安全科技的發(fā)展有了“緊迫性”和“必要性”，“剛需”特質(zhì)顯現(xiàn)。

從定義來講，安全科技包含系統(tǒng)安全、網(wǎng)絡(luò)安全、數(shù)據(jù)安全、業(yè)務(wù)安全、AI安全等范疇，它是一系列旨在保護信息、網(wǎng)絡(luò)和計算機系統(tǒng)免受未經(jīng)授權(quán)的訪問、攻擊和威脅的工具、技術(shù)和系統(tǒng)，其市場涵蓋了硬件、軟件和服務(wù)。

圖1：安全科技全景圖

圖片來源：社科院團隊《數(shù)字時代安全科技價值報告》

事實上，在相當(dāng)長一段時間里，網(wǎng)絡(luò)安全即安全科技�！秷蟾妗分赋觯�隨著數(shù)字化的深入，越來越多的細分領(lǐng)域涌現(xiàn)出來，使得傳統(tǒng)的“網(wǎng)絡(luò)安全”概念難以覆蓋，而安全科技這個詞在這樣一個轉(zhuǎn)型期中被提出，用以關(guān)涉多個領(lǐng)域的技術(shù)和理念。

從時間上劃分，安全科技的發(fā)展可以大致分成三個階段：

1、本地保護階段（20世紀(jì)70年代至2000年代初期）：這一時期的安全科技主要基于密碼學(xué)和防火墻技術(shù)，其保護的對象是網(wǎng)絡(luò)相關(guān)的基礎(chǔ)設(shè)施。

2、網(wǎng)絡(luò)保護階段（2000年代中期至2010年代中期）：此時以入侵檢測、反病毒和漏洞掃描等技術(shù)為代表的網(wǎng)絡(luò)安全是主流。

3、智能保護階段（2010年代中期至今）：安全科技開始向智能化、自適應(yīng)、自愈合等方向發(fā)展，并從技術(shù)擴展到管理，從靜態(tài)擴展到動態(tài)，通過各種安全技術(shù)和安全管理措施的綜合融合，構(gòu)建深度的主動的防御體系。

“本質(zhì)上，安全科技是一種伴生技術(shù)。它永遠在面向新科技，面向新發(fā)展。”浙江工業(yè)大學(xué)網(wǎng)絡(luò)空間安全研究院院長宣琦接受報告調(diào)研時表示，不管是哪個新技術(shù)在推進過程中形成了新的安全問題，比如面向人工智能，就會提出智能安全，面向生物科技，就會提出生物安全。新技術(shù)的發(fā)展有時候非�？焖�，所以安全技術(shù)的發(fā)展和創(chuàng)新也同樣在高速變動。

這樣的變動體現(xiàn)到市場發(fā)展方面，同樣是“高速”的。據(jù)IDC發(fā)布的報告，2021年全球網(wǎng)絡(luò)安全IT（互聯(lián)網(wǎng)技術(shù)）總投資規(guī)模為1689億美元，并有望在2026年增至2876億美元，5年復(fù)合增速為11.3%。

聚焦到中國市場，5年復(fù)合增速約達21.2%，接近全球平均復(fù)合增速的兩倍。具體數(shù)據(jù)顯示，2026年中國網(wǎng)絡(luò)安全IT支出規(guī)模將達到318.6億美元，全球占比約為11.1%。

除了市場規(guī)模增長優(yōu)勢，我國在安全領(lǐng)域的技術(shù)優(yōu)勢也較為明顯。

根據(jù)全球權(quán)威知識產(chǎn)權(quán)機構(gòu)IPRdaily發(fā)布的《安全科技專利分析報告》顯示，中國和美國共計擁有全球77%的安全科技專利。

截至2023年4月，中國是全球安全科技發(fā)明專利的最主要布局國家，共擁有專利申請數(shù)20445件，為第二名美國的2.23倍。

其中，科技型骨干企業(yè)成為安全科技專利的主力軍，螞蟻集團、華為、騰訊集團、國家電網(wǎng)、中興、中國工商銀行、中國移動位居全球安全科技專利申請前十名。螞蟻集團憑借其在交易安全、隱私安全領(lǐng)域優(yōu)勢，以3806項專利數(shù)，位列全球榜首。

圖2：全球安全科技專利TOP 10申請主體

圖片來源：IPRdaily于2023年7月發(fā)布的《安全科技專利分析報告》

 02 

新型公共品

就像現(xiàn)代人類離不開水電氣一樣，安全科技也是數(shù)字經(jīng)濟時代不可或缺的基礎(chǔ)設(shè)施。隨著人工智能、量子計算等新技術(shù)的發(fā)展和應(yīng)用，新型風(fēng)險與安全科技的攻防也將無所不在。

“必須強調(diào)的是，安全科技并不是一個純商業(yè)范圍的議題，而是清晰的具備公共品的特征。”

安全科技的價值，體現(xiàn)在兩個方面。一是守住技術(shù)的安全底線，防御可能存在的風(fēng)險隱患，即當(dāng)好“壓艙石”；二是提高技術(shù)的安全上限，降低技術(shù)運行的成本，讓新技術(shù)得以規(guī)�；�落地，即做好“助燃劑”。

圖3：安全科技的雙重價值

圖片來源：社科院團隊《數(shù)字時代安全科技價值報告》

《報告》指出，從產(chǎn)品運作層面來看，防病毒軟件、入侵防御系統(tǒng)等商業(yè)安全系統(tǒng)是私有產(chǎn)品，但威脅情報、漏洞信息共享、隱私計算、基礎(chǔ)設(shè)施保護等技術(shù)和平臺，都具有明顯的公共品屬性。

雖然長期以來，安全科技屬于商業(yè)和技術(shù)界的話題，個人和社會在其中缺乏足夠的表達。但安全科技的完整內(nèi)涵不只是對攻擊者的防御體系，還包括保護平等發(fā)展、社會團結(jié)與個人尊嚴(yán)的技術(shù)與服務(wù)。

《報告》認(rèn)為安全科技成為公共品的推動力來自四個方面：合規(guī)激勵、商業(yè)保險、標(biāo)準(zhǔn)建設(shè)、安全思維。

合規(guī)激勵。當(dāng)前，大多數(shù)企業(yè)往往更傾向于把資源投入到IT研發(fā)而不是安全保障上。在大部分企業(yè)自身沒有直接動力來投入安全時，需要政府通過合規(guī)者的角度來推動相關(guān)的保障投入。

商業(yè)保險。商業(yè)領(lǐng)域的創(chuàng)新是落實合規(guī)的重要助手。網(wǎng)絡(luò)安全保險能有效幫助建立數(shù)字安全事件評估及賠償標(biāo)準(zhǔn)，這一細分賽道前景廣闊。

數(shù)據(jù)顯示，2019年，全球網(wǎng)絡(luò)安全保險保費達到73.6億美元，同比增長71%。根據(jù)安聯(lián)保險集團預(yù)測，到2025年，網(wǎng)絡(luò)安全保險市場規(guī)模將達到200億美元。

圖4：全球網(wǎng)絡(luò)安全保險保費增長情況（單位：億美元）

數(shù)據(jù)來源：央行南京分行科技處課題組《網(wǎng)絡(luò)安全保險發(fā)展的實踐與建議》，安聯(lián)保險，零壹智庫制圖

標(biāo)準(zhǔn)建設(shè)，同樣是一個生態(tài)合作的范疇，借助政府、頭部機構(gòu)與企業(yè)的帶頭作用，為全社會的安全技術(shù)建設(shè)提供標(biāo)準(zhǔn)。

安全思維，是指以人為本的安全設(shè)計、運維與建設(shè)并重的安全構(gòu)建。數(shù)據(jù)顯示，95%的網(wǎng)絡(luò)安全漏洞是由人為錯誤造成的。以人為本的安全設(shè)計要求在整個安全風(fēng)險的控制管理流程中，優(yōu)先考慮參與者的體驗，而不僅僅是技術(shù)考慮。

運維與建設(shè)并重的安全構(gòu)建，針對的是當(dāng)前我國在安全方面的一個普遍傾向，即企業(yè)和政府部門構(gòu)建信息化系統(tǒng)時，普遍存在“重建設(shè)輕運營”現(xiàn)象。因此，我們的安全構(gòu)建思維，要從傳統(tǒng)的硬件模式，轉(zhuǎn)向更偏重軟件的服務(wù)模式。

 03 

新形勢

“過去說到AI應(yīng)用，都是比較‘虛’的；但現(xiàn)在AI在各個行業(yè)的應(yīng)用，變成了一個非常現(xiàn)實的情形。”

香港科技大學(xué)副校長汪揚表示，大語言模型是人類的財富，它在一些垂直領(lǐng)域的應(yīng)用發(fā)展，或許會顛覆整個數(shù)字經(jīng)濟，而且會產(chǎn)生嶄新的模式，帶領(lǐng)我們進入經(jīng)濟發(fā)展的下一段路程。

而在這一段路程上，除了機遇，還充滿了風(fēng)險。

有新技術(shù)的地方，就有新的安全風(fēng)險。2023年年底，杭州上城區(qū)網(wǎng)警破獲一起重大勒索病毒案件，犯罪團伙成員均有網(wǎng)絡(luò)安防相關(guān)資質(zhì)，且有供職大型網(wǎng)絡(luò)科技公司經(jīng)歷，他們在實施犯罪過程中借助ChatGPT進行程序優(yōu)化，犯罪手段相當(dāng)“與時俱進”。

ChatGPT爆火了一年多，在帶動大模型和人工智能賽道起飛的同時，也讓全球業(yè)界更加擔(dān)心日益凸顯的AI安全風(fēng)險。

《報告》將AI安全風(fēng)險分為三類：第一是內(nèi)生安全，像“數(shù)據(jù)偏見”“觀點霸權(quán)”“決策黑盒化”等問題屬于這一類。

針對“決策黑盒化”，螞蟻集團副總裁、首席技術(shù)安全官韋韜表示，深黑盒化，也就是AI大模型分析決策出現(xiàn)不確定性和不可知性，這帶來了三大新挑戰(zhàn)：第一層是認(rèn)知一致性對齊；第二層是決策如何白盒化；第三層是如何讓交流協(xié)同演進。

第二是衍生安全問題，即人工智能系統(tǒng)失誤可能引發(fā)一些重大安全事故。如生成虛假新聞、深度合成偽造進行詐騙與釣魚攻擊，侵犯他人肖像權(quán)、隱私權(quán)，涉及人身安全、隱私保護、軍事與國家安全、倫理道德和法律規(guī)范等一系列與社會治理有關(guān)的挑戰(zhàn)性問題。

第三是外生安全問題，也就是面向人工智能系統(tǒng)的外部網(wǎng)絡(luò)攻擊對抗。一方面，數(shù)字化、網(wǎng)絡(luò)化程度越高，可被攻擊的部位、結(jié)點就越多；對數(shù)字技術(shù)的依賴程度越高，網(wǎng)絡(luò)破壞造成的后果就越嚴(yán)重。另一方面，黑灰產(chǎn)攻擊模式也隨著業(yè)務(wù)創(chuàng)新、新科技引入，逐漸呈現(xiàn)專業(yè)化、多樣化、智能化、產(chǎn)業(yè)化的特點。

圖5：人工智能安全的三大類別

圖片來源：社科院團隊《數(shù)字時代安全科技價值報告》

“技術(shù)是把雙刃劍”，安全科技就是打造足夠安全的“刀鞘”。過去幾年，微軟、谷歌、螞蟻集團、騰訊等不少科技公司紛紛投入可信AI的研究和應(yīng)用。像螞蟻集團自2015年起研發(fā)可信AI技術(shù)，已解決了風(fēng)控場景中的諸多難題。

螞蟻集團安全實驗室首席科學(xué)家、可信AI負(fù)責(zé)人王維強曾表示，大模型安全既要“快”也要“慢”。在安全防御方面要“快”，要能快速檢測、查殺病毒，確保服務(wù)無毒害；在安全可信方面要“慢”，要能長遠地、體系化地保證整個系統(tǒng)環(huán)境的可控、可信。

大模型風(fēng)險的一個可能路徑存在于預(yù)訓(xùn)練的大規(guī)模數(shù)據(jù)中，如果數(shù)據(jù)本身“有毒”，帶有在偏見和歧視，或有虛假信息等質(zhì)量問題，那么大模型輸出的內(nèi)容就存在安全問題。

另一個渠道是行業(yè)領(lǐng)域微調(diào)的過程中涉及到的一些標(biāo)注，也可能有誘導(dǎo)錯誤的人類對齊、錯誤價值導(dǎo)向的惡意標(biāo)注，不可靠的低質(zhì)量標(biāo)注和缺少多樣性的固化標(biāo)注，這類標(biāo)注都會帶來安全風(fēng)險。

在實踐應(yīng)用中，針對大模型的安全風(fēng)險，業(yè)界已有“大模型質(zhì)檢”類安全產(chǎn)品推出。2023年9月，螞蟻集團宣布推出一項名為“蟻天鑒”的全新大模型安全一體化解決方案。這一解決方案包含兩個關(guān)鍵產(chǎn)品：大模型安全檢測平臺“蟻鑒2.0”和大模型風(fēng)險防御平臺“天鑒”，為大規(guī)模AI模型的安全保障帶來了全新的突破。

圖6：螞蟻大模型安全實踐

圖片來源：社科院團隊《數(shù)字時代安全科技價值報告》，螞蟻“蟻天鑒”大模型安全方案

再比如，螞蟻數(shù)科安全科技品牌“蟻盾（ZOLOZ）”與中鐵建設(shè)物資公司共建了產(chǎn)業(yè)風(fēng)控平臺，依托蟻盾提供的合規(guī)、安全的數(shù)據(jù)管道，可以一站式查詢企業(yè)資質(zhì)、經(jīng)營信息、司法訴訟、關(guān)聯(lián)風(fēng)險、新聞輿情等多維度數(shù)據(jù)，也可以了解細分行業(yè)的發(fā)展趨勢。

2023年，除了火爆的人工智能之外，我國數(shù)據(jù)要素市場建設(shè)也在加速，從基礎(chǔ)制度體系的建設(shè)，到交易市場的活躍，全方位推進。目前，我國正處于數(shù)據(jù)產(chǎn)業(yè)發(fā)展的關(guān)鍵時期。

2024年1月1日，《企業(yè)數(shù)據(jù)資源相關(guān)會計處理暫行規(guī)定》正式施行。數(shù)據(jù)資產(chǎn)入表政策落地，意味著數(shù)據(jù)要素產(chǎn)業(yè)化大時代的開啟。

1月4日，《“數(shù)據(jù)要素×”三年行動計劃（2024—2026年）》正式發(fā)布，從征求意見到正式發(fā)布，用時不到一個月，進展神速。其中提出，到2026年底，數(shù)據(jù)產(chǎn)業(yè)年均增速超過20%，場內(nèi)交易與場外交易協(xié)調(diào)發(fā)展，數(shù)據(jù)交易規(guī)模倍增。

數(shù)字化背后這汪名為“數(shù)據(jù)”的巨大海洋，正在前所未有的翻滾，產(chǎn)生巨大的動能和勢能。據(jù)國家發(fā)改委專家初步測算，全國企業(yè)數(shù)據(jù)要素支出規(guī)模約為3.3萬億元，如果考慮數(shù)據(jù)資產(chǎn)評估、質(zhì)押、融資等衍生市場，整體規(guī)�？赡艹�過30萬億元。

而數(shù)據(jù)要素市場的有效運轉(zhuǎn)，離不開數(shù)據(jù)安全合規(guī)這一基礎(chǔ)，安全科技的需求將在數(shù)據(jù)要素產(chǎn)業(yè)全面發(fā)展的過程中迎來爆發(fā)。

從趨勢上來講，伴隨著IT架構(gòu)的演進，安全科技走向了無邊界，逐漸超越傳統(tǒng)安全的新一代技術(shù)集群，未來將呈現(xiàn)智能化、零化、彈性化、匿名化、量子化的發(fā)展趨勢。安全科技將作為方向盤，始終將各種新興科技控制在向善的道路上。

       原文標(biāo)題 : 社科大萬字調(diào)研深度解讀：安全科技為何是新型公共產(chǎn)品？