大模型最重要與核心的安全問題，也因?yàn)?60的入局與破局，走入了新的歷史階段。

‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍如果你是一個(gè)足夠關(guān)注行業(yè)新聞的科技從業(yè)者，大概率會(huì)發(fā)現(xiàn)這樣一件事——近一年來，無論是作為“KOL”的周鴻祎，還是作為行業(yè)安全大模型從業(yè)者的周鴻祎，在社交媒體“刷臉”的頻率，幾乎呈指數(shù)級(jí)增加。

最近的一次，是在4月19日。周鴻祎在社交媒體宣布，要賣掉陪伴自己多年的邁巴赫S600，換成幾十萬的國產(chǎn)智能新能源汽車。當(dāng)然，重點(diǎn)是在下一句——他還公開表示，“國內(nèi)做車的友商們誰愿意借這個(gè)機(jī)會(huì)，為他提供一輛體驗(yàn)用車，自己也來者不拒。”

效果自然也是立竿見影，各路新能源汽車廠商無論是公開還是非公開，都跟周鴻祎“交起了朋友”，速度最快的小鵬，在當(dāng)晚就把車送到了360公司的樓下。

憑周鴻祎的實(shí)力與名望，想私下里拿到任何一款新能源汽車，都是舉手之勞，那么何必在社交媒體上做“顯眼包”？很顯然，這里同樣有公司戰(zhàn)略層面的考量。

如今的新能源汽車，其智能車機(jī)系統(tǒng)搭載生成式AI大模型，已經(jīng)不再是“做與不做”的問題，而是一個(gè)時(shí)間問題，而搭載大模型的智能車機(jī)，無論是數(shù)據(jù)還是系統(tǒng)本身，安全問題是順利上線與運(yùn)營的根本前提。很顯然，這是屬于360的機(jī)會(huì)。

事實(shí)上，在過去一年的時(shí)間里，360已經(jīng)通過生成式AI深度改造了自己的業(yè)務(wù)流程與產(chǎn)品的功能服務(wù)流程，在其中盡可能多的環(huán)節(jié)，通過生成式AI增效與賦能。關(guān)于這一點(diǎn)，在剛剛發(fā)布的財(cái)報(bào)中已然體現(xiàn)。

這不僅歸功于AI重塑了360的產(chǎn)品形態(tài)——躬身入局安全模型領(lǐng)域之后，對(duì)于國內(nèi)外最炙手可熱的大模型廠商，360端到端的安全解決方案，其意義也日漸明朗。與之相對(duì)，大模型最重要與核心的安全問題，也因?yàn)?60的入局與破局，走入了新的歷史階段。

怎樣才能“降本增效”？

4月19日，三六零集團(tuán)發(fā)布2023年度報(bào)告。財(cái)報(bào)數(shù)據(jù)顯示，報(bào)告期內(nèi)，公司實(shí)現(xiàn)營收90.55億元，主營業(yè)務(wù)毛利率60.35%，同比提升1.76%。此外，歸屬于上市公司股東的凈利潤-4.92億元，較2022年大幅減虧77.65%。

相對(duì)于“紙面富貴”的營業(yè)收入而言，經(jīng)營性現(xiàn)金流更能體現(xiàn)一個(gè)公司實(shí)際收入的質(zhì)量變化。如果從這一點(diǎn)考量，360的發(fā)展可能比營收更能說明問題。報(bào)告期內(nèi)，公司經(jīng)營性現(xiàn)金流凈額9.24億元，較去年同比提升65.84%，近兩年復(fù)合增速達(dá)136.26%。

這部分現(xiàn)金流的增加，一部分被360“廣積糧”。截至報(bào)告期末，公司貨幣資金為261.05億元，較上一報(bào)告期末增加33.24億元；另一部分，則用作人工智能人才和算力方面的相關(guān)投入——報(bào)告期內(nèi)，公司研發(fā)費(fèi)用為31.04億元，營收占比達(dá)34.28%。

如果用兩個(gè)關(guān)鍵詞概括，“人工智能”和“數(shù)字安全”無疑是過去一年360發(fā)展的兩個(gè)“主線任務(wù)”。在人工智能業(yè)務(wù)方面，360推出自研千億參數(shù)認(rèn)知型通用大模型“360智腦”，并首批通過備案而向公眾開放。此外，作為大模型國家隊(duì)，360同樣參與了行業(yè)標(biāo)準(zhǔn)的制定，并在近期開源了360智腦7B參數(shù)版本。

數(shù)字安全方面，基于自身的“360智腦”，360同樣從近 20 年積累的攻防技戰(zhàn)術(shù)、漏洞庫、病毒庫等安全大數(shù)據(jù)中提取高質(zhì)量的語料進(jìn)行訓(xùn)練，以大數(shù)據(jù)、高算力、強(qiáng)算法打造國內(nèi)首個(gè)實(shí)現(xiàn)AI 實(shí)戰(zhàn)應(yīng)用的安全行業(yè)大模型——360 安全大模型。

從功能實(shí)現(xiàn)層面來說，在搭載生成式AI之后，它不僅能高效便捷地完成安全問題咨詢，還具備傳統(tǒng)網(wǎng)安解決方案的態(tài)勢(shì)指標(biāo)分析、安全事件處理、攻擊威脅溯源等傳統(tǒng)能力。

但在互聯(lián)網(wǎng)跑步進(jìn)入生成式AI時(shí)代以來，針對(duì)大模型的安全問題，已經(jīng)不能再用傳統(tǒng)的網(wǎng)安思路去解決。即便成功通過有關(guān)部門的合規(guī)檢測(cè)，得以備案和上線，但模型本身及其搭載產(chǎn)品的安全性，隨著參數(shù)量和訓(xùn)練數(shù)據(jù)的不斷迭代升級(jí)，也在發(fā)生變化。

不過，相對(duì)于傳統(tǒng)網(wǎng)安問題，大模型安全幾乎是另外一個(gè)獨(dú)立問題。

舉例來說，以GPT-4為代表的語言大模型及其衍生產(chǎn)品，其固有的缺陷之一，是生成結(jié)果的“幻覺”問題。體現(xiàn)在用戶所能直接體驗(yàn)的前端，則是對(duì)于確定的輸入prompt，模型最終輸出的不一樣乃至相反的結(jié)果，俗稱“一本正經(jīng)地胡說八道。”

接入模型的API安全性問題，同樣值得重視。從數(shù)據(jù)統(tǒng)計(jì)層面來看，多數(shù)web程序受到的網(wǎng)絡(luò)攻擊均針對(duì)API，它是模型能力最主要的交付通道。也因此，對(duì)各種協(xié)議是否許可，許可到什么程度，中間的安全性差異可謂巨大。

由此可見，大模型本身的安全問題，隨著行業(yè)的飛速發(fā)展，已經(jīng)成為一個(gè)獨(dú)立課題——前述原生的大模型安全問題，在大模型安全領(lǐng)域的比重，幾乎超過80%。如果是對(duì)大模型不甚了解的網(wǎng)絡(luò)安全企業(yè)，或者是僅僅停留在硬件層面的網(wǎng)安企業(yè)，很難真正去解決大模型原生問題。

相對(duì)于其他大模型廠商，通用能力層面并非360的主戰(zhàn)場(chǎng)。但到了“大模型+安全”領(lǐng)域，已經(jīng)開始著手解決相關(guān)問題，并取得了初步成果。

大模型安全為何重要？

不過，關(guān)注大模型安全問題，只是網(wǎng)安企業(yè)的 “應(yīng)然”，躬身入局并嘗試解決，才是“實(shí)然”。想要在大模型安全領(lǐng)域，提供有效的解決方案，也具備一系列先決條件。 

在此前召開的360安全大模型3.0發(fā)布會(huì)上，360高級(jí)副總裁李博認(rèn)為，如果要有效解決大模型內(nèi)部的安全問題，首先要非常了解大模型，正如解決其他業(yè)務(wù)安全問題，首先需要了解業(yè)務(wù)特性一樣。因此，只有躬身入局大模型研發(fā)，才有能力解決大模型安全問題。

此外，不做大模型的傳統(tǒng)安全企業(yè)，同樣難以實(shí)現(xiàn)原生的大模型安全能力。因?yàn)橄喈?dāng)比例的安全問題，都需要在大模型內(nèi)部深入耦合原生安全機(jī)制進(jìn)行對(duì)應(yīng)解決，如果網(wǎng)安企業(yè)沒有自己的大模型“打樣”，一些安全機(jī)制很難適應(yīng)大模型的環(huán)境，最終變成“空中樓閣”。

但從現(xiàn)實(shí)層面看，多數(shù)互聯(lián)網(wǎng)企業(yè)往往將發(fā)展作為第一要?jiǎng)?wù)，至于業(yè)務(wù)安全，相較于業(yè)務(wù)發(fā)展往往相對(duì)滯后。在李博看來，這在行業(yè)早期并無大礙。但當(dāng)業(yè)務(wù)結(jié)束發(fā)展高峰期，一旦存量業(yè)務(wù)數(shù)據(jù)受到攻擊或發(fā)生問題，損失往往在億級(jí)以上。

有基于此，在360眼中，想要保障大模型的安全，大模型的可靠性首當(dāng)其沖——網(wǎng)絡(luò)環(huán)境和數(shù)據(jù)安全，這在相當(dāng)程度上，影響和決定了大模型的穩(wěn)定性和響應(yīng)速度。

其次，大模型本身輸出的內(nèi)容，需要一定的可信度。這不僅包括內(nèi)容的完整可用，內(nèi)容可信同樣重要。

建立在內(nèi)容可信之上，大模型向善和可控同樣重要。它的內(nèi)容不僅需要符合主流價(jià)值觀和社會(huì)規(guī)范，其行為也同樣需要穩(wěn)定和可控。

有基于此，在最新的安全大模型3.0版本中，360將傳統(tǒng)網(wǎng)安大腦體系，與原生大模型安全能力相結(jié)合，進(jìn)而形成了綜合性安全能力框架，即AISF。

基礎(chǔ)架構(gòu)層面，360安全框架體系通過探針采集、平臺(tái)運(yùn)營、AI技術(shù)的應(yīng)用，構(gòu)建了專家服務(wù)和安全數(shù)據(jù)支撐能力。同時(shí)，基于十多年的網(wǎng)絡(luò)安全經(jīng)驗(yàn)，360積累了數(shù)據(jù)泄露預(yù)警、數(shù)據(jù)清洗、數(shù)據(jù)保護(hù)等數(shù)據(jù)安全能力，這些能力共同構(gòu)成了360安全云的核心。

原生大模型安全能力方面，360構(gòu)建了一個(gè)框架、兩個(gè)平臺(tái)和三組套件，旨在從基礎(chǔ)、可信、向善、可控、效果五大方向提供保障。例如，向善能力套件包括內(nèi)容護(hù)欄、數(shù)字水印和風(fēng)控大模型，用以防范注入攻擊，確保內(nèi)容的安全性和向善性。

鑒于大模型訓(xùn)練和維護(hù)成本高昂，多數(shù)廠商依賴公有云，這增加了系統(tǒng)漏洞、網(wǎng)絡(luò)攻擊、數(shù)據(jù)竊取的風(fēng)險(xiǎn)。360安全云通過安全即服務(wù)的形式，提供監(jiān)測(cè)、分析、響應(yīng)、防護(hù)和漏洞修復(fù)，這些風(fēng)險(xiǎn)得到有效規(guī)避。

這些流程不僅在大模型運(yùn)行階段需要執(zhí)行，訓(xùn)練階段同樣需要。通過數(shù)據(jù)檢測(cè)清洗和算法矯正加密來增強(qiáng)安全性。在輸出內(nèi)容階段，風(fēng)控大模型能夠進(jìn)行敏感內(nèi)容檢測(cè)和識(shí)別，提升推理準(zhǔn)確性，減少模型輸出的“幻覺”問題。

此外，通過首創(chuàng)的大模型紅藍(lán)對(duì)抗靶場(chǎng)，360通過定期攻防對(duì)抗模擬，保持安防系統(tǒng)的高戰(zhàn)備狀態(tài)，確保大模型的常態(tài)化安全。

基于上述安全體系的不斷迭代優(yōu)化，也使得大模型的核心安全能力得到持續(xù)增強(qiáng)。

一條難而正確的路

當(dāng)然，方案歸方案，產(chǎn)品歸產(chǎn)品， 360 對(duì)于 AI 安全的諸多理解、框架與解決方案，在最終對(duì)外輸出的產(chǎn)品形態(tài)上，最終變成了大模型安全管家，一如當(dāng)年 PC 端的 360 安全衛(wèi)士，與手機(jī)上的 360 手機(jī)衛(wèi)士。 

跟前兩者一樣，這不僅僅停留在B端，而是通過大模型在C端用戶場(chǎng)景的不斷延伸，進(jìn)而被更多的用戶注意并重視。對(duì)于“網(wǎng)安老炮”360來說，這可能是不亞于移動(dòng)互聯(lián)網(wǎng)的巨大風(fēng)口。

一方面，就發(fā)展軌跡而言，生成式AI已經(jīng)走到了商業(yè)化的“深水區(qū)”。安全與合規(guī)，是其商業(yè)化順利進(jìn)行的充要條件，在這方面，360具備相當(dāng)強(qiáng)的“不可替代性”。

當(dāng)然，網(wǎng)絡(luò)安全是一個(gè)通過實(shí)踐積累經(jīng)驗(yàn)的領(lǐng)域，沒有經(jīng)過長(zhǎng)期的網(wǎng)絡(luò)安全攻防實(shí)戰(zhàn)，就無360如今的行業(yè)地位。也因此，如果360希望在大模型安全領(lǐng)域取得成就，那么深入?yún)⑴c大模型的實(shí)踐是一條必經(jīng)之路。

另一方面，藉由生成式AI“飛入尋常百姓家”，其討論的全民化，讓360逐漸從移動(dòng)互聯(lián)網(wǎng)時(shí)代的“隱身幕后”，通過周鴻祎持續(xù)“布道”而逐步回歸臺(tái)前。這與360業(yè)績(jī)的回暖幾乎同步發(fā)生。

不過，這并非是讓大模型行業(yè)都去使用360的安全大模型，而是通過360自身的身體力行，讓更多在大模型行業(yè)奮戰(zhàn)的企業(yè)，意識(shí)到大模型原生安全問題的重要性。這不僅停留在周鴻祎的嘴上和社交媒體上，360同樣也落實(shí)到了行動(dòng)上。

歸根到底，生成式AI的大潮已然不可阻擋，商業(yè)化的征程同樣呼之欲出，在此過程中，不僅需要底層大模型和應(yīng)用層廠商的不斷努力，也同樣需要相關(guān)網(wǎng)安企業(yè)持續(xù)保駕護(hù)航�；蛟S有一天，大模型及其安全領(lǐng)域，或許真如周鴻祎當(dāng)年所言，不僅是“一錘子買賣”，更是細(xì)水長(zhǎng)流的“安全即服務(wù)”。

       原文標(biāo)題 : 360何以成為大模型廠商的“安全閥門”？