文 | 國家計算機網絡應急技術處理協(xié)調中心 司成祥；軍事科學院系統(tǒng)工程研究院 任保全；北京長亭未來科技有限公司 朱文雷 龔杰

信息技術的飛速發(fā)展使軟件系統(tǒng)的復雜性與規(guī)模呈指數級增長，而傳統(tǒng)的漏洞挖掘方法在效率、覆蓋率和適應性上的局限性日益凸顯。近年來，人工智能（AI）技術的飛速發(fā)展，為漏洞挖掘領域帶來了革命性突破，顯著提升了漏洞檢測的智能化水平。本文從技術原理、應用實踐及挑戰(zhàn)三個維度，結合實際案例，探討AI在漏洞挖掘中的價值、前景與未來趨勢，為漏洞挖掘技術的研究與實踐提供參考。

一、人工智能在漏洞挖掘中的優(yōu)勢和主要方法

漏洞挖掘通常是指通過一定的方法和工具，在軟件的源代碼、二進制或運行環(huán)境中尋找可能被惡意利用的缺陷或安全弱點。AI是一種讓機器模仿人類的智能來執(zhí)行任務的技術總稱。近年來，隨著以大語言模型技術為代表的生成式人工智能技術的飛速發(fā)展，AI技術在圖像識別、自然語言處理等領域取得了突破性成果。下面主要介紹兩者的契合點和關鍵技術。

（一）傳統(tǒng)漏洞挖掘的不足與人工智能的賦能優(yōu)勢

傳統(tǒng)漏洞挖掘技術主要依賴模糊測試（Fuzz Testing）、符號執(zhí)行（Symbolic Execution）和靜態(tài)代碼分析（Static Analysis）等。這些技術依賴專家經驗和預定義規(guī)則，面對日益龐大的代碼規(guī)模和復雜的漏洞場景，存在覆蓋率不足、誤報率高以及對人工依賴性強等問題。

AI的主要分支之一是機器學習。機器學習通過大量數據訓練模型，從歷史樣本中學習規(guī)律，并對新樣本進行預測。將人工智能應用于漏洞挖掘，主要是利用機器學習算法自動學習“安全代碼”和“存在漏洞的代碼”之間的差異，將漏洞挖掘問題轉化為程序分類或聚類問題。簡單來說，AI模型可以從大量已有的漏洞和安全代碼樣本中提取特征模式，從而自動識別未知代碼中的潛在漏洞。

在漏洞挖掘中應用AI技術具有多重優(yōu)勢。首先，機器學習模型能夠總結出人類難以手工編寫的復雜規(guī)則，發(fā)現(xiàn)隱藏漏洞模式，從而提高檢出率；其次，AI技術可自動化、快速地處理海量代碼，減少人工干預，提高整體效率；最后，深度學習等技術能夠自動提取代碼特征，解析代碼邏輯與上下文關系，降低對安全專家經驗的依賴。當然，AI技術也并非萬能，如何獲取高質量的訓練數據、使模型真正理解程序語義以及確保模型結果的可信度，仍是需要進一步解決的問題。

（二）人工智能在漏洞挖掘中的關鍵技術

當前，AI在漏洞挖掘領域已展現(xiàn)出多種技術應用途徑，包括靜態(tài)分析與動態(tài)分析相結合的智能代碼審計、基于機器學習的漏洞檢測模型，以及自然語言處理技術在代碼語義分析中的應用等。

1. 靜態(tài)分析與人工智能的結合

靜態(tài)分析是在不運行程序的情況下，通過掃描源代碼或二進制文件來發(fā)現(xiàn)潛在漏洞的方法，常見手段包括源代碼掃描、控制流與數據流分析、污點分析、符號執(zhí)行等。傳統(tǒng)方法雖然能夠較為全面地覆蓋代碼路徑，但通常存在誤報率高且對復雜邏輯敏感等問題。引入AI技術后，靜態(tài)分析的效率和準確性得到了明顯提升。

例如，在機器學習輔助的污點分析方面，傳統(tǒng)污點分析往往會發(fā)出許多不是真正漏洞的警告。通過構建機器學習模型對污點分析的結果進行二次篩選，模型可從大量真實漏洞與假陽性案例中學習差異，進而識別更可能存在安全隱患的代碼模式，從而顯著降低誤報率，提高分析人員的工作效率。

此外，機器學習模型在代碼屬性特征的提取和分類方面也表現(xiàn)出優(yōu)勢。靜態(tài)分析過程中需要將代碼的多種屬性提取并向量化，隨后利用決策樹、支持向量機、神經網絡等模型進行分類或回歸預測。例如，可以通過提取每個函數的控制流復雜度、調用關系等指標，訓練分類模型以判斷函數是否存在緩沖區(qū)溢出等漏洞；或者利用邏輯回歸模型，根據代碼度量預測某模塊中可能存在的漏洞數量。這類基于靜態(tài)特征的模型能夠快速掃描整個代碼庫，幫助安全人員定位可疑區(qū)域以便進一步審計。

機器學習還可以優(yōu)化符號執(zhí)行。符號執(zhí)行通過用符號變量替代實際值來探索程序路徑，能發(fā)現(xiàn)復雜條件下的漏洞，但在面對大型程序時常常面臨路徑爆炸等問題。結合機器學習后，可在符號執(zhí)行前預測哪些函數或路徑更可能含有漏洞，從而優(yōu)先對這些高風險區(qū)域進行符號執(zhí)行。例如，可以訓練模型，根據函數的代碼特征預測其是否存在漏洞，當模型給出高風險評分時，再進行深入的符號執(zhí)行。這種智能引導方式有助于減少無效路徑的探索，從而提高符號執(zhí)行的整體效率。

需要注意的是，靜態(tài)分析中AI應用的效果高度依賴于良好的特征設計。必須設計與安全漏洞緊密相關的特征，才能發(fā)揮模型的最大效能。雖然深度學習的引入在一定程度上能夠自動學習特征，但在特征不足或樣本有限的情況下，仍需融合專家知識來設計特定的特征。

2. 動態(tài)分析與人工智能的結合

動態(tài)分析是通過實際運行程序或模擬執(zhí)行來發(fā)現(xiàn)漏洞的方法，包括模糊測試、動態(tài)污點跟蹤和運行時監(jiān)測等。動態(tài)分析擅長發(fā)現(xiàn)程序運行時才會顯現(xiàn)的問題，例如內存越界、空指針引用等。然而，傳統(tǒng)測試通常較為盲目或基于簡單變異策略，需要長時間才能觸達深層次的漏洞。引入AI技術后，動態(tài)測試的效率得到了有效提升。

在智能模糊測試（Smart Fuzzing）方面，經典模糊測試工具通常通過隨機或基于簡單規(guī)則變異輸入數據來測試程序，效率有限。引入機器學習后，模糊測試工具可以根據以往探索到的程序行為動態(tài)調整輸入生成策略。同時學習已知漏洞的觸發(fā)條件，從而有針對性地產生更易觸發(fā)漏洞的輸入，使得模糊測試不再完全“模糊”，而是基于“經驗”探測程序的薄弱點，大幅提高了模糊測試的漏洞發(fā)現(xiàn)能力。

在動態(tài)執(zhí)行監(jiān)測與異常檢測方面，通過訓練模型學習程序在正常運行時的行為，可以實現(xiàn)對異常行為的檢測。一旦實際執(zhí)行偏離正常范圍，即可判定可能存在漏洞被觸發(fā)。這類異常檢測模型不僅可用于區(qū)分模糊測試產生的崩潰是否具有安全意義（即區(qū)分普通崩潰和真正可利用的漏洞），還可以用于在生產環(huán)境中實時監(jiān)控并檢測利用漏洞的攻擊行為。

除了調整模糊測試的輸入之外，強化學習代理還可應用于更廣泛的漏洞挖掘流程控制。例如，通過訓練一個強化學習（Reinforcement Learning，RL）智能體，使其針對應用執(zhí)行一系列操作（類似于滲透測試的步驟），并以成功觸發(fā)異?；蚵┒醋鳛楠剟?。這類模擬攻擊路徑自主探索漏洞觸發(fā)條件的方法雖然尚處于起步階段，但已展示出讓AI主動探索漏洞的潛力。

綜上所述，動態(tài)分析與靜態(tài)分析各有所長，當前流行的做法是將兩者結合，形成“靜態(tài)+動態(tài)+AI”三位一體的漏洞挖掘框架。靜態(tài)分析提供全局的代碼視圖，動態(tài)分析則提供真實執(zhí)行反饋，而AI技術貫穿其中，提供智能決策支持。通過先利用靜態(tài)分析篩查可疑點，再通過動態(tài)模糊測試進行驗證，并在整個過程中借助機器學習模型不斷優(yōu)化策略，構建出高效的漏洞挖掘流水線。

3. 機器學習在漏洞檢測中的分類與回歸方法

在漏洞挖掘中應用機器學習時，常見的任務為分類或回歸問題。例如：“這段代碼是否存在漏洞？”屬于二分類問題；“這個軟件包含多少個漏洞？”則可以視為回歸預測。根據不同的任務需求，選擇適當的機器學習算法非常關鍵。

分類模型用于判斷某個對象是否屬于“有漏洞”類別。典型模型包括樸素貝葉斯（NB）、支持向量機（SVM）、決策樹/隨機森林（DT/RF）、神經網絡等。這些模型都有各自的優(yōu)勢，在實際應用中，通常會將多種模型結合使用，例如先用快速的模型進行粗分類，再用復雜模型進行精細篩選，以在性能和準確率之間取得平衡。

回歸模型用于預測一個連續(xù)值指標，例如漏洞數量、漏洞嚴重程度評分等，包括線性回歸、邏輯回歸，甚至深度學習中的回歸網絡等。這些模型在漏洞優(yōu)先級排序和風險評估中作用顯著。例如，訓練一個線性模型，根據項目的代碼規(guī)模、開發(fā)歷史等特征，預測其尚未發(fā)現(xiàn)的漏洞數量，從而幫助制定測試計劃。又如，利用邏輯回歸模型，估計某個漏洞被利用的概率，從而進行風險排序。有研究嘗試通過機器學習綜合多種因素（漏洞位置、影響范圍、利用難度等）給出風險評分，輔助安全團隊優(yōu)先修復高危漏洞。

無論是分類問題還是回歸問題，模型都需要特征工程支持。除了傳統(tǒng)的代碼度量特征，越來越多的漏洞分析工作開始引入程序語法、語義信息作為特征。例如，提取函數調用圖、數據流圖中的統(tǒng)計量，或提取代碼片段的詞向量表示等。自然語言處理（NLP）技術在這里大有用武之地，可以將源代碼文本轉化為向量特征供機器學習算法使用。

4. NLP與代碼語義分析在漏洞挖掘中的應用

近年來，NLP技術開始被運用到代碼和漏洞分析中，因為源代碼本質上是一種特殊的“語言”，其含有語法和語義結構。主要包括以下幾種實踐。

源代碼向量化表征。借鑒NLP的詞嵌入思想，將源代碼轉換為計算機可學習的向量表示。一種簡單做法是把源代碼當作序列文本，用詞嵌入（word embedding）技術將代碼符號映射為向量，再輸入神經網絡分類器。此外，更高級的做法是構造抽象語法樹（AST）或控制流圖等結構，再通過圖嵌入或圖神經網絡（GNN）將其表示為向量。通過這些方法，代碼的語法結構和一定程度的語義關系被保留在向量中，供模型學習。

自動特征提取。深度學習擅長自動提取特征，在代碼分析中，研究人員可以用深度學習模型直接從原始代碼中學習漏洞相關特征，減少人工的參與。例如，使用長短期記憶網絡（LSTM）遍歷代碼token序列，讓模型自主識別可能存在的潛在漏洞的語法模式或變量關系。同時，也可以利用卷積神經網絡（CNN）在AST的鄰接矩陣上進行卷積，自動捕獲“危險模式”，類似于讓模型自己總結漏洞的語言模式。實踐表明，深度學習能夠發(fā)現(xiàn)許多人工難以想到的特征組合，尤其對復雜漏洞（如多步邏輯錯誤）的檢測效果更好。

安全補丁和漏洞描述分析。NLP還可以用于分析歷史安全補丁的文本、漏洞報告的描述等，從中抽取漏洞模式信息。例如，通過對大量漏洞補丁前后的代碼差異進行文本對比，訓練模型識別補丁修改的地方（如檢查長度、增加驗證等），利用這些知識幫助檢測未修補的相似漏洞。再如，將漏洞數據庫中的自然語言描述輸入大型語言模型，讓其提取出漏洞觸發(fā)條件、影響函數等關鍵信息，輔助靜態(tài)掃描工具進行針對性檢查。這種“從文字中學習漏洞知識”的方式，實際上是將安全專家的經驗以數據驅動形式傳遞給AI。

代碼評論和文檔分析。某些特殊的評論或文檔中可能潛藏危險代碼，NLP模型可以解析這些人類的語言內容，從側面提示可能的漏洞位置。此外，對開源項目的問題描述和提交記錄進行情感分析，也可以有效識別高頻出現(xiàn)問題的模塊，從而引導漏洞挖掘方向。

綜上所述，NLP技術使得AI能夠更深入地理解代碼語義，這對于挖掘依賴邏輯語義的漏洞（如認證繞過、加密不當）非常重要。隨著大模型在編程語言上的預訓練取得進展（例如OpenAI的Codex、CodeBERT模型），利用NLP助力漏洞挖掘的效果會進一步提升?？梢灶A見，NLP與代碼安全的融合將成為未來AI漏洞挖掘領域的重要趨勢之一。

二、人工智能在漏洞挖掘中的應用實踐和主要挑戰(zhàn)

大型科技企業(yè)、開源項目和學術研究在AI應用于漏洞挖掘方面已取得一些可喜的進展，開始邁向對漏洞的“發(fā)現(xiàn)－修復”全流程自動化的目標。

（一）人工智能在漏洞挖掘中的應用實踐

AI在漏洞挖掘中的應用已開始落地，涌現(xiàn)出一些工具和平臺。商業(yè)掃描器如靜態(tài)應用安全測試（SAST）工具和動態(tài)應用安全測試（DAST）工具已嘗試引入AI，從而減少誤報并提高掃描深度。DeepCode是業(yè)界知名的基于機器學習的代碼審核工具，能夠通過訓練所得規(guī)則檢測代碼中的錯誤和安全漏洞，并提供修復建議。微軟、谷歌、英特爾等公司也在其開發(fā)者工具鏈中加入了AI掃描功能，同時提供模糊測試平臺和漏洞檢測平臺。在國內，源自清華系的華清未央推出了“機器語言大模型”（Machine Language Model，MLM），主打智能化的軟件逆向分析，以發(fā)現(xiàn)其中的安全風險。

與此同時，AI智能體驅動的漏洞挖掘系統(tǒng)也開始初露鋒芒。2024年11月，谷歌旗下的安全團隊Project Zero宣布，其構建的AI漏洞挖掘代理系統(tǒng)“BigSleep”首次在真實大型軟件中發(fā)現(xiàn)了一個此前未知的安全漏洞，該漏洞已潛伏了二十年之久。此案例表明，AI在補充現(xiàn)有漏洞挖掘手段的短板方面具有巨大的潛力。

AI在漏洞領域的應用不僅限于漏洞發(fā)現(xiàn)，還開始延伸至自動修復領域。一個典型案例是GitHub Copilot結合CodeQL推出的“代碼掃描自動修復”功能。2023年11月，GitHub宣布，CodeQL掃描發(fā)現(xiàn)漏洞后，可以調用大型語言模型（Copilot的后端GPT模型）自動生成修復代碼，并通過拉取請求直接提供給開發(fā)者參考與合并。GitHub聲稱，在初步測試中，該功能可自動修復約三分之二的常見漏洞警報。2025年初，谷歌也發(fā)布了名為Jules的AI編碼助手，專注于自動修復漏洞的能力。Jules基于谷歌最新的大型模型Gemini 2.0，能夠無縫集成到GitHub工作流中，用于分析復雜代碼庫，提出跨多個文件的綜合修復方案。與Copilot偏重單一問題的改動不同，Jules定位為更自主的代理，可以批量修復系統(tǒng)中的多處相關漏洞，更像一個AI工程師而非簡單工具。在試用過程中研究人員發(fā)現(xiàn)，Jules能夠將一些繁瑣的代碼重構任務從原來耗時一周的時間，縮短到幾分鐘完成。

上述案例表明，盡管AI在漏洞挖掘中的應用尚處于起步階段且效果有限，但隨著技術的不斷進步，未來開發(fā)者或許只需一鍵掃描，AI即可給出修復補丁，從而大幅縮短從漏洞發(fā)現(xiàn)到修補的時間窗口。這將對提升軟件生態(tài)整體安全水平產生深遠的影響。

（二）人工智能在漏洞挖掘中的挑戰(zhàn)與限制

雖然AI在漏洞挖掘中展現(xiàn)了巨大潛力，但當前仍存在很多局限和挑戰(zhàn)，需要理性認識并進行科學權衡。

一是存在檢測準確性與誤報問題。機器學習模型并非完美，可能會產生誤報（將安全代碼誤判為漏洞）和漏報（將漏洞代碼誤判為安全）。尤其在靜態(tài)分析場景下，模型可能因訓練數據偏差，將某些安全慣用寫法錯誤地標記為危險，增加開發(fā)者的負擔。此外，如果模型訓練不當，也可能引入新的誤報類型。許多深度學習模型屬于“黑箱”，當它們報告某行代碼存在漏洞時，往往缺乏可解釋的原因，難以說服開發(fā)者接受修復建議。因此，需要在模型復雜度和可解釋性之間做好權衡。

二是要加強泛化能力提升跨項目適用性。當前，大多數AI漏洞檢測模型仍局限于單一語言或單一項目訓練。一個機器學習模型通常只能對它見過的數據類型表現(xiàn)良好，在跨語言、跨域泛化方面尚未突破。將模型應用到全新項目或編程語言時，效果可能急劇下降。例如，跨項目的漏洞挖掘是一項挑戰(zhàn)性的課題，即不同項目可能使用不同的語言、框架、編碼規(guī)范，甚至漏洞分布特性也不同。為解決這一問題，需要更多研究，如開發(fā)能夠映射不同語言語義到統(tǒng)一表示的技術，或者通過遷移學習、領域自適應等方法，使模型在新環(huán)境下保持良好的性能。

三是容易受到數據集質量與偏差的影響。機器學習的成敗，很大程度取決于訓練數據的質量。漏洞數據具有稀疏且不均衡的特點——在海量代碼中，真正有漏洞的僅為少數。此外，公開的漏洞數據大多偏重某些類型（如緩沖區(qū)溢出、SQL注入等常見漏洞），而邏輯缺陷、設計缺陷等類型的數據較少。這導致模型訓練時容易聚焦于頻繁出現(xiàn)的模式，對于罕見但危害巨大的漏洞則無能為力。數據偏差還可能來自標注錯誤或漏標，一些非漏洞樣本中可能潛藏漏洞，如果被誤標為安全樣本進行訓練，會對模型產生誤導。因此，提高數據集質量需要社區(qū)的協(xié)作：一方面，不斷匯總新的漏洞樣本，平衡各類漏洞比例，清洗標簽錯誤，并生成足夠的負樣本（安全代碼），避免模型過擬合。另一方面，合成數據也是一個方向，例如通過代碼混淆和變異技術自動生成帶漏洞的樣本，豐富模型的學習數據。

四是要權衡計算資源與時間成本。訓練和運行AI模型，尤其深度學習模型，對計算資源和訓練時間的要求較高。同時，目前一些AI掃描工具在大型項目上的運行仍較緩慢，有時需要離線批處理，無法實時反饋，嚴重影響開發(fā)者的使用感受。這限制了AI工具在快速迭代開發(fā)中的采用。為了降低成本，研究者正在探索更高效的模型結構，并應用蒸餾、剪枝等模型壓縮技術，讓模型在保持準確率的同時加快推理速度。另外一種思路是結合云服務，將重計算任務放到云端集中處理，客戶端只獲取最終結果。但對于敏感代碼，將數據上傳云端也帶來了數據安全的顧慮。如何在性能和資源之間取得平衡，是AI漏洞挖掘落地必須解決的問題。

五是存在對抗攻擊風險。對抗樣本攻擊是近年來機器學習領域關注的重點，攻擊者可以通過對輸入數據進行微小改動來欺騙模型。在漏洞挖掘場景中，攻擊者或惡意開發(fā)者有可能編寫“對抗性代碼”繞過AI檢測。例如，通過改變變量命名或插入無關代碼等方式，使惡意代碼看起來與已知漏洞樣本不相似，從而瞞過模型的檢測。尤其隨著技術的發(fā)展，當防御方普遍借助AI掃描時，攻擊者必然會研究其檢測模式并進行針對性規(guī)避。此外，還有數據中毒攻擊的風險，如果AI模型在線學習或依賴社區(qū)提供的數據，攻擊者可以提交特制的代碼，誘使模型對某些漏洞“視而不見”或產生誤判。為防范這些風險，安全AI模型需要融入對抗防御機制，例如在訓練過程中加入對抗樣本增強魯棒性，或對模型輸出的不確定性進行分析，以識別可能被誤導的情況。

除了上述挑戰(zhàn)，AI在漏洞挖掘中的應用還面臨合規(guī)要求、責任界定、開發(fā)者的接受程度等問題?？傮w來看，AI在漏洞挖掘中的應用仍處于輔助增強階段，遠未達到完全自動化和無人值守的程度。因此，要正視其局限性，在實踐中不斷完善和改進，將其與傳統(tǒng)方法結合形成互補，發(fā)揮AI的最大價值。

三、結 語

展望未來，人工智能在漏洞挖掘領域有多項值得期待的發(fā)展方向。隨著算力提升和算法進步，AI模型將在代碼理解上達到新的高度，這將使AI能夠發(fā)現(xiàn)更加復雜、跨模塊的漏洞。AI的參與將提升開發(fā)流程中的智能化安全管控能力，推動DevSecOps理念的落地；AI驅動的自動化漏洞修復與自愈技術將更加完善，甚至發(fā)展出自主修復能力。

從攻防視角來看，AI將成為未來網絡空間軍備競賽的重要組成部分：一方面，防御者將利用AI筑起更高的壁壘；另一方面，攻擊者也會開發(fā)AI尋找漏洞并發(fā)動攻擊。未來的安全領域很可能出現(xiàn)“AI vs AI”的場景，攻防雙方的智能化差異或將直接決定網絡空間沖突的勝負走向。

總體而言，AI在漏洞挖掘中的應用已從理論探索邁入實踐落地階段，在一定程度上已經改變了漏洞挖掘的游戲規(guī)則。作為“效率倍增器”，AI的價值日益凸顯，正朝著更加自動化、智能化和主動防御的方向發(fā)展?？梢灶A見，隨著技術的不斷積累，AI或將成為安全領域的核心支柱，大幅提升對抗漏洞和未知威脅的能力。然而，我們也清醒地認識到，現(xiàn)階段AI并不能完全替代人類專家。模型的局限性、數據的不足以及對抗威脅的存在，意味著AI工具仍需在人類監(jiān)督下使用。未來，隨著模型能力的提升與開發(fā)流程的深度集成，AI有望實現(xiàn)從漏洞發(fā)現(xiàn)到修復的閉環(huán)，推動軟件安全從“被動應對”轉向“主動防御”。在這一進程中，技術創(chuàng)新、數據質量、倫理規(guī)范與人才培養(yǎng)缺一不可。唯有持續(xù)探索與協(xié)作，方能構建更安全的數字生態(tài)。

（本文刊登于《中國信息安全》雜志2025年第2期）