2021年，新冠肺炎疫情依舊沒有結(jié)束，但是社會生產(chǎn)與技術(shù)進(jìn)步并未因此而停滯，人工智能技術(shù)的研究與應(yīng)用正在不斷進(jìn)步，人工智能安全也在2021年有了一些新的發(fā)展。

　　本文將對人工智能安全展開詳細(xì)的描述與分析，概述啟明星辰（002439）集團在2021年的若干實踐案例，并對當(dāng)前人工智能安全的發(fā)展趨勢給出分析預(yù)測。

　　1、落地應(yīng)用印證趨勢法規(guī)出臺熱度攀升

　　Gartner在2019年發(fā)布的一份報告中將人工智能安全（AI Security）的涵義解讀成三個方面，分別是人工智能賦能安全防御、人工智能惡意應(yīng)用帶來的安全威脅以及人工智能自身安全。

　　由于人工智能的惡意應(yīng)用目前在網(wǎng)絡(luò)安全層面的實踐相對較少，本文主要關(guān)注另兩個方面在2021年取得的進(jìn)步。

　　在人工智能賦能安全防御方面，總體情況基本符合近幾年來的發(fā)展趨勢?；赝^去，2017年的RSA大會是人工智能最熱的一屆，之后人工智能逐步從炒作走向落地實用，如今已成為安全防御能力的一個普通組成部分。

　　2021年的RSA大會受新冠疫情影響改成在線上舉辦，參展廠商銳減至187家，通過對線上數(shù)字展臺的瀏覽分析，上述趨勢再次得到印證：人工智能已經(jīng)成為構(gòu)建檢測、分析等安全能力的基礎(chǔ)組件，在安全分析平臺、IDS、NGFW、勒索軟件檢測等產(chǎn)品中均能找到其身影，且通常非獨立出現(xiàn)，而與其他技術(shù)緊密結(jié)合。

　　2021年6月，美國安全和新興技術(shù)中心（CSET）發(fā)布了一份題為《機器學(xué)習(xí)與網(wǎng)絡(luò)安全――炒作與現(xiàn)實》（《Machine Learning and Cybersecurity - Hype and Reality》）的報告，其中分析指出當(dāng)前機器學(xué)習(xí)技術(shù)給網(wǎng)絡(luò)安全領(lǐng)域帶來的主要是改進(jìn)式變化，而不是變革式的，沒有帶來顯著性的攻防地位轉(zhuǎn)變。

　　雖然上述發(fā)展趨勢及分析報告可能讓人感覺人工智能賦能安全防御遠(yuǎn)沒有達(dá)到之前人們所期望的“奇效”，但從另一角度來看這實際上也是一種肯定，人工智能確實在一些場景中為網(wǎng)絡(luò)安全防御提供了支撐與能力提升。

　　2021年2月，全球移動通信系統(tǒng)協(xié)會（GSMA）發(fā)布了《AI in Security人工智能賦能安全應(yīng)用案例集》，其中包含了來自國內(nèi)多家網(wǎng)絡(luò)通信及安全廠商的30個人工智能在網(wǎng)絡(luò)信息安全領(lǐng)域應(yīng)用的優(yōu)秀案例（其中啟明星辰的案例有5個），涵蓋通信安全、數(shù)據(jù)安全、內(nèi)容安全、業(yè)務(wù)安全、終端安全等諸多應(yīng)用場景，正是人工智能技術(shù)在賦能網(wǎng)絡(luò)安全防御方面所發(fā)揮出的切實作用的真實寫照。

　　在人工智能自身安全方面，除了系統(tǒng)、應(yīng)用及算法的魯棒性受到學(xué)術(shù)界及業(yè)界的更多關(guān)注外，數(shù)據(jù)層面的安全威脅在2021年度更是倍受關(guān)注?！稊?shù)據(jù)安全法》、《個人信息保護法》等一系列法律法規(guī)相繼出臺實施，使以機器學(xué)習(xí)、深度學(xué)習(xí)等為代表的人工智能算法模型在訓(xùn)練過程中使用的大規(guī)模數(shù)據(jù)，必須遵守相關(guān)規(guī)定。

　　尤其是在多方聯(lián)合建?；蚴菙?shù)據(jù)可能涉及到個人隱私的場景，如何確保數(shù)據(jù)安全與隱私保護成為人工智能應(yīng)用構(gòu)建過程中需重點考慮的問題。因此，可信執(zhí)行環(huán)境、聯(lián)邦學(xué)習(xí)、多方安全計算等隱私計算技術(shù)的熱度有明顯上升，業(yè)界對此也有較多的關(guān)注。

　　位列2021年的RSAC創(chuàng)新沙盒十強之一的Cape Privacy正是專注于此領(lǐng)域，而Gartner在2021年10月發(fā)布的2022戰(zhàn)略技術(shù)趨勢報告中也將隱私增強計算（Privacy-Enhancing Computation）列入其中。

　　2、實踐方能出真知人工智能助力網(wǎng)絡(luò)安全發(fā)展

　　2021年，啟明星辰繼續(xù)在人工智能安全領(lǐng)域開拓創(chuàng)新，展開自主研發(fā)實踐并取得了優(yōu)秀成果，以下將從人工智能賦能網(wǎng)絡(luò)安全防御與人工智能自身安全兩方面進(jìn)行說明。

　　在關(guān)于2021年度啟明星辰研發(fā)創(chuàng)新大賽的報道文章《創(chuàng)新――讓啟明星辰始終照亮網(wǎng)絡(luò)安全時空》一文中，已經(jīng)對獲得冠軍的“AI安全建模與賦能系統(tǒng)”進(jìn)行了介紹，這正是啟明星辰在人工智能賦能網(wǎng)絡(luò)安全防御方面的優(yōu)秀實踐成果之一，本文不再贅述，下面將重點介紹其他代表性成果。

　　第一個是同樣在2021年度集團研發(fā)創(chuàng)新大賽中榮獲優(yōu)秀獎的“Webshell通信流量智能檢測系統(tǒng)”。由集團核心技術(shù)研究院與檢測產(chǎn)品本部共同研發(fā)的這一成果，設(shè)計提出了一種基于機器學(xué)習(xí)的Webshell通信流量檢測技術(shù)，并針對大規(guī)模數(shù)據(jù)下性能瓶頸、訓(xùn)練所需標(biāo)注數(shù)據(jù)不夠豐富、既有特征不足以及模型部署后對新數(shù)據(jù)出現(xiàn)漏報/誤報等難題給出了創(chuàng)新的解決方法，從而實現(xiàn)在真實數(shù)據(jù)流量下測試達(dá)到高檢出（~99.9%）、零誤報的優(yōu)異效果。這一成果已經(jīng)實現(xiàn)在NFT產(chǎn)品中的模塊化，并提交相關(guān)發(fā)明專利申請。

　　另一個是由集團核心技術(shù)研究院與VenusEye威脅情報中心合作研發(fā)的“惡意代碼智能檢測系統(tǒng)”。經(jīng)過數(shù)年的研究積累，研究團隊設(shè)計提出了多個惡意代碼靜態(tài)及動態(tài)分析檢測的模型，基于千萬量級惡意代碼樣本，并針對樣本不均衡問題給出改進(jìn)機制，最終實現(xiàn)模型的檢測精準(zhǔn)度達(dá)到業(yè)界前沿水平。其中部分模型經(jīng)過多次數(shù)據(jù)分析大賽的檢驗驗證，包括阿里云安全惡意程序檢測天池長期賽（2019-2021）第一名、科大訊飛（002230）惡意軟件分類挑戰(zhàn)賽（2021）第三名、CCF BDCI數(shù)字安全公開賽之惡意軟件家族分類賽（2021）優(yōu)勝獎等。這一成果已經(jīng)初步部署于威脅情報處理系統(tǒng)中，并提交相關(guān)發(fā)明專利申請。

　　而在人工智能自身安全方面，啟明星辰從數(shù)據(jù)安全層面出發(fā)，在2021年12月正式發(fā)布數(shù)據(jù)安全新版圖――數(shù)據(jù)綠洲，為數(shù)字經(jīng)濟時代數(shù)據(jù)要素價值的充分發(fā)揮打造支撐技術(shù)與平臺，為人工智能等數(shù)據(jù)分析業(yè)務(wù)場景提供“數(shù)據(jù)可用不可見”的能力。

　　數(shù)據(jù)綠洲的背后，既有公司近二十年在數(shù)據(jù)全生命周期管控的積累作為基礎(chǔ)，也有近兩年來集團核心技術(shù)研究院在區(qū)塊鏈、聯(lián)邦學(xué)習(xí)、多方安全計算等前沿技術(shù)領(lǐng)域的持續(xù)跟蹤研究的成果作為支撐。數(shù)據(jù)綠洲在未來必將成為促進(jìn)與保障數(shù)據(jù)要素安全流通共享的重要力量。

　　3、技術(shù)與形勢雙重驅(qū)動人工智能安全發(fā)展

　　隨著人工智能技術(shù)的研究與應(yīng)用發(fā)展，以及網(wǎng)絡(luò)與信息安全問題受關(guān)注度的不斷提升，近年來人工智能安全這一交叉領(lǐng)域正在技術(shù)與形勢的雙重驅(qū)動下持續(xù)向前推進(jìn)。當(dāng)前人工智能安全的發(fā)展有以下幾項趨勢。

　　（1）人工智能賦能網(wǎng)絡(luò)安全防御逐漸脫離“黑盒”應(yīng)用模式

　　在業(yè)界對人工智能賦能網(wǎng)絡(luò)安全防御熱炒的初期（2017-2018年），很多方案將人工智能算法模型當(dāng)作“黑盒”使用，以深度神經(jīng)網(wǎng)絡(luò)（深度學(xué)習(xí)）為代表的復(fù)雜模型的采用更是成為一個重要宣傳點。

　　這些方案雖然在特定問題中能夠在檢測率等指標(biāo)上達(dá)到比傳統(tǒng)方法更好的結(jié)果，但是其存在的不可解釋性問題一直為人們所詬病，而且對數(shù)據(jù)集的依賴度通常較高。

　　炒作大潮過后，實際的落地效果與安全能力成為核心關(guān)鍵點。由于硬件資源的限制與實時檢測的需求，以及關(guān)聯(lián)分析方面的考量，“黑盒”應(yīng)用模式變得越來越不適用。相反地，更多的新方案開始采用計算效率與可解釋度更高的傳統(tǒng)機器學(xué)習(xí)模型，并融入安全領(lǐng)域?qū)＜抑R（包括安全知識圖譜的采用）。

　　此外，人機回圈（human-in-the-loop）對于網(wǎng)絡(luò)安全領(lǐng)域人工智能模型的訓(xùn)練、持續(xù)優(yōu)化以及透明度與可解釋性提升將是一種有效的方式，未來可能得到更多關(guān)注。

　　（2）高質(zhì)量的網(wǎng)絡(luò)安全數(shù)據(jù)集的構(gòu)建與積累將愈發(fā)重要

　　經(jīng)過幾度起落，2010年代人工智能技術(shù)的再度興起，不僅僅是由于深度學(xué)習(xí)算法的提出，而同時與ImageNet等高質(zhì)量的大規(guī)模數(shù)據(jù)集出現(xiàn)有很大關(guān)系。相比于計算機視覺、自然語言處理等人工智能應(yīng)用最廣泛的領(lǐng)域，網(wǎng)絡(luò)安全領(lǐng)域的數(shù)據(jù)集可謂是“聊勝于無”，而且很大一部分年代久遠(yuǎn)，缺乏持續(xù)的更新維護，只在近年來的若干數(shù)據(jù)分析比賽中公開提供少許新數(shù)據(jù)集。

　　盡管小樣本學(xué)習(xí)、合成數(shù)據(jù)等新技術(shù)的提出能夠在某種程度上緩解可用數(shù)據(jù)少的情形，但是高質(zhì)量的真實數(shù)據(jù)集在未來一段時間內(nèi)對于人工智能賦能網(wǎng)絡(luò)安全防御的發(fā)展仍然是不可或缺的，甚至直接關(guān)系到其可用性及落地效果。

　　（3）系統(tǒng)的工程化可能加速人工智能賦能網(wǎng)絡(luò)安全防御應(yīng)用的構(gòu)建

　　Gartner連續(xù)兩年將人工智能工程化（AI Engineering）列入戰(zhàn)略性技術(shù)趨勢（2021-2022），它對于各類人工智能應(yīng)用中算法模型的性能、可維護性、可擴展性、可解釋性以及可靠性提升有重要助力。

　　在網(wǎng)絡(luò)安全領(lǐng)域，人才缺口的問題一直存在，而同時掌握人工智能與安全兩個領(lǐng)域知識的人才更是稀缺，而系統(tǒng)的人工智能工程化在助力模型構(gòu)建、維護的同時，也在某種程度上降低了構(gòu)建網(wǎng)絡(luò)安全領(lǐng)域人工智能應(yīng)用的門檻。它使得相關(guān)知識與經(jīng)驗可以在系統(tǒng)中不斷積累，創(chuàng)建新應(yīng)用時不再需要從零開始，從而助力加速構(gòu)建應(yīng)用。

　　（4）隱私計算技術(shù)將更快速地從理論走向落地

　　人工智能算法模型在訓(xùn)練過程中需使用的大量數(shù)據(jù)，如何確保這一過程中的數(shù)據(jù)安全與隱私保護也是人工智能應(yīng)用構(gòu)建過程中需重點考慮的問題。與人工智能賦能網(wǎng)絡(luò)安全防御不同，隱私計算技術(shù)的興起是在合規(guī)的需求推動下出現(xiàn)的，而不單單是由技術(shù)發(fā)展與炒作所催生的。

　　隨著數(shù)據(jù)安全及隱私保護相關(guān)的一系列法律法規(guī)出臺，數(shù)據(jù)采集、處理及運營方必須采取相應(yīng)措施來保證其行為合規(guī)。而另一方面數(shù)據(jù)的價值又只有通過計算分析與共享流通才能充分體現(xiàn)，這就從客觀上決定了隱私計算技術(shù)的必要性。盡管當(dāng)前的隱私計算技術(shù)還存在著開銷大、效率低等問題或不足，但是合規(guī)性方面的要求客觀上決定了它勢必將在各種場景下以不同形式被采用。因此，相比于人工智能賦能網(wǎng)絡(luò)安全防御，隱私計算技術(shù)可能會更快速地走向落地。

　　人工智能技術(shù)正在日新月異的飛速發(fā)展，啟明星辰集團將抓住機會、急流勇進(jìn)，繼續(xù)在人工智能安全等前沿技術(shù)領(lǐng)域開拓進(jìn)取，為實現(xiàn)“護航數(shù)字中國，領(lǐng)航信息安全”的使命愿景不斷奮進(jìn)。