文 | 新質(zhì)動(dòng)能
過去幾年,企業(yè)談 AI 安全,大多數(shù)時(shí)候指的是內(nèi)容安全:過濾有害輸出、防止數(shù)據(jù)泄露、滿足合規(guī)備案。
但 2026 年發(fā)生的一件事,把這個(gè)議題推向了另一個(gè)維度:AI 智能體在真實(shí)環(huán)境中做出的行為,正在成為安全的主戰(zhàn)場。
2026 年 4 月,美國得州 SaaS 公司 PocketOS 的一名工程師讓編碼智能體處理測試環(huán)境中的憑據(jù)問題。智能體沒有等待人工處理,而是自行找到權(quán)限過大的 API Token,調(diào)用接口刪除存儲卷。9 秒后,公司生產(chǎn)數(shù)據(jù)庫和備份一并消失。沒有黑客入侵,沒有病毒,只有一個(gè)被賦予真實(shí)權(quán)限的 AI 智能體。
幾個(gè)月后,一個(gè)更極端的版本出現(xiàn)在 OpenAI 內(nèi)部。2026 年 7 月,GPT-5.6 Sol 等模型在一次網(wǎng)絡(luò)安全基準(zhǔn)測試中突破隔離環(huán)境,入侵了 AI 開源平臺 Hugging Face 的生產(chǎn)系統(tǒng)。約 700 個(gè)智能體組成協(xié)作集群,搭建了未經(jīng)授權(quán)的內(nèi)部留言板,交換了超過 7 萬條消息。為了弄清它們究竟做了什么,OpenAI 投入約 300 萬 GPU 小時(shí)分析超過 70 億條日志。
當(dāng) AI 從 " 回答問題 " 走向 " 執(zhí)行任務(wù) ",安全問題的性質(zhì)已經(jīng)徹底改變。

AI 安全市場正進(jìn)入爆發(fā)期
數(shù)據(jù)印證了這一轉(zhuǎn)變。據(jù) IDC 預(yù)測,中國網(wǎng)絡(luò)安全相關(guān) AI Agent 應(yīng)用收入的復(fù)合增速將高達(dá) 106.5%,2030 年達(dá)到 593.5 億元,是 AI 安全本身規(guī)模的近兩倍。浙商證券指出,當(dāng)攻擊者開始用 AI Agent 自動(dòng)化發(fā)起釣魚、漏洞利用和橫向移動(dòng),防守方也必須用 Agent 對抗 Agent,安全運(yùn)營正從人工驅(qū)動(dòng)轉(zhuǎn)向智能體驅(qū)動(dòng)。
企業(yè)端的準(zhǔn)備程度遠(yuǎn)未跟上。據(jù) AvePoint《State of AI 2026》報(bào)告,89.5% 的組織在過去一年遭遇過生成式 AI 相關(guān)安全事件,88.4% 遭遇過 AI 智能體相關(guān)事件。世界經(jīng)濟(jì)論壇《2026 年全球網(wǎng)絡(luò)安全展望》顯示,94% 的受訪者認(rèn)為 AI 將是 2026 年網(wǎng)絡(luò)安全變化的最重要驅(qū)動(dòng)因素,87% 認(rèn)為相關(guān)漏洞有所增加。
中國工程院院士吳世忠在西湖論劍大會上表示,系統(tǒng)的內(nèi)生風(fēng)險(xiǎn)已經(jīng)超越外延攻擊:" 現(xiàn)在最大的危險(xiǎn)不再僅僅是黑客入侵,可能還有算法本身的不可解釋性、偏見、幻覺以及被誘導(dǎo)后的越權(quán)執(zhí)行。"
據(jù) Gartner 數(shù)據(jù),2025 年全球 AI 安全市場支出為 259.2 億美元,2026 年攀升至 513.47 億美元,同比增幅接近 98.1%,遠(yuǎn)超全球 AI 整體 47% 的年度增長率。Gartner 預(yù)測,專門保護(hù) AI 系統(tǒng)的 Securing AI 市場 2027 年將接近 48 億美元,2026 至 2027 年同比增速達(dá) 68.7%,連續(xù)多年保持在 65% 以上的高增長區(qū)間,遠(yuǎn)高于傳統(tǒng)網(wǎng)絡(luò)安全 10% 左右的增速。

據(jù) Technavio 預(yù)測,全球 AI Agent 安全與身份管理平臺市場 2025 至 2030 年間將增長約 59.6 億美元,復(fù)合年增長率達(dá) 19.8%。另據(jù) Technavio 另一份報(bào)告,面向自主 AI 系統(tǒng)的網(wǎng)絡(luò)安全解決方案市場同期復(fù)合年增長率為 38.5%,增長規(guī)模為 28.8 億美元。
一級市場反應(yīng)直接。AI 安全初創(chuàng)公司 HiddenLayer 完成 1 億美元 B 輪融資,由 Delta-v Capital 領(lǐng)投,微軟旗下 M12、摩根士丹利等參投,過去一年年度經(jīng)常性收入增長超過 10 倍,超過 90% 的增長來自新客戶簽約。
Obsidian Security 于 8 月完成 8500 萬美元 D 輪融資,估值達(dá) 11 億美元。Cyera 于 9 月從高盛獲得 4 億美元 G 輪擴(kuò)展融資,估值超過 120 億美元,并以 10 億美元收購專注非人類身份安全的 Oasis Security。Cyera 聯(lián)合創(chuàng)始人約塔姆 · 塞格夫直言:"AI 基礎(chǔ)設(shè)施的發(fā)展速度已經(jīng)超過了圍繞其構(gòu)建的安全架構(gòu)。"
AI 賦能安全與 AI 原生安全形成雙輪驅(qū)動(dòng)
產(chǎn)業(yè)界,AI 安全正分化為兩條路徑。一條是 AI 賦能安全,即用大模型重構(gòu)傳統(tǒng)安全能力。
天融信、深信服等傳統(tǒng)安全廠商走這條路,將大模型作為效率工具,重構(gòu)日志分析、威脅情報(bào)關(guān)聯(lián)、漏洞自動(dòng)修復(fù)等流程。據(jù)浙商證券研報(bào),IDC 數(shù)據(jù)顯示 2025 年中國基于大模型的安全運(yùn)營平臺市場規(guī)模達(dá) 15 億元,同比增長 144%,61% 的中國企業(yè)計(jì)劃在未來 1 至 3 年內(nèi)采購安全大模型產(chǎn)品和服務(wù)。
天融信 2026 年上半年 AI 安全防護(hù)業(yè)務(wù)收入同比增長超過 130%,AI 賦能安全業(yè)務(wù)直接收入超過 8000 萬元。綠盟科技上半年 AI 安全相關(guān)訂單額達(dá) 1.17 億元,運(yùn)營商行業(yè)簽單同比增長超 300%。啟明星辰大模型應(yīng)用防火墻收入同比增長 238.15%。

另一條是 AI 原生安全,即為 AI 系統(tǒng)本身設(shè)計(jì)安全機(jī)制。
CrowdStrike 在 2027 財(cái)年第二財(cái)季實(shí)現(xiàn)營收 14.7 億美元,同比增長 26%,年度經(jīng)常性收入達(dá) 58.4 億美元,單季新增 ARR 高達(dá) 3.33 億美元,刷新歷史新高。公司首席執(zhí)行官喬治 · 庫爾茨表示,企業(yè) AI 采用正在成為網(wǎng)絡(luò)安全支出的持久驅(qū)動(dòng)力。
Okta 于 7 月簽署協(xié)議收購 Permiso Security,將云原生身份威脅檢測納入其安全平臺。NVIDIA 聯(lián)合 Cisco、JFrog 等企業(yè)提出圍繞 AI Agent 全棧安全的工程化框架,并開源 OpenShell 運(yùn)行時(shí),在智能體觸及范圍之外強(qiáng)制執(zhí)行策略。
OWASP 在 2026 年網(wǎng)絡(luò)安全趨勢觀察中總結(jié):" 安全產(chǎn)品正從‘用 AI 提效’走向‘為 AI 設(shè)防’。"
安全預(yù)算增速,仍遠(yuǎn)低于 AI 能力滲透速度
2026 年 9 月 14 日,全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會發(fā)布《人工智能安全治理框架 3.0》,延續(xù)風(fēng)險(xiǎn)分類、技術(shù)應(yīng)對、綜合治理的核心邏輯,治理視角從單一技術(shù)環(huán)節(jié)拓展到數(shù)據(jù)、算法、模型、應(yīng)用、供應(yīng)鏈等全過程。3.0 版本特別提到強(qiáng)化開源生態(tài)安全、供應(yīng)鏈安全管理,明確了禁止性行為,劃出紅線。
隨后,《電信和互聯(lián)網(wǎng)生成式人工智能服務(wù)安全分級指南》團(tuán)體標(biāo)準(zhǔn)宣布將于 10 月 8 日起正式實(shí)施,成為電信和互聯(lián)網(wǎng)行業(yè)首部專門面向生成式 AI 服務(wù)安全分級的標(biāo)準(zhǔn)。
國際層面,歐盟 AI 法案已于 2026 年 8 月 2 日進(jìn)入可執(zhí)行階段,歐盟 AI 辦公室獲得對通用 AI 模型提供商的正式調(diào)查和執(zhí)法權(quán)力。NIST 于 2026 年 2 月 17 日正式啟動(dòng) AI Agent Standards Initiative,圍繞智能體安全與身份、行業(yè)標(biāo)準(zhǔn)制定、開源協(xié)議開發(fā)三個(gè)支柱推進(jìn)。
中美歐三條治理路徑的差異也愈發(fā)清晰:美國關(guān)注前沿能力、以行業(yè)自律為主;歐盟強(qiáng)調(diào)風(fēng)險(xiǎn)分級、建立強(qiáng)制性合規(guī)框架;中國以統(tǒng)籌發(fā)展和安全為主線,通過備案、分類分級和內(nèi)容標(biāo)識落地。矛盾浮出水面:AI 安全的預(yù)算增長速度,遠(yuǎn)遠(yuǎn)趕不上 AI 能力滲透的速度。
據(jù) Gartner 預(yù)測,2026 年全球 AI 總支出將達(dá)到 2.52 萬億美元,其中 AI 軟件支出約 4525 億美元,AI 網(wǎng)絡(luò)安全支出為 513.5 億美元。AI 安全支出在 AI 軟件支出中的占比約為 11%,在 AI 總支出中的占比則更低。
Gartner 同時(shí)指出,AI 軟件支出是用于保護(hù) AI 本身的安全支出的約 9 倍。即便是這極其有限的安全預(yù)算,絕大部分也并沒有投向真正代表未來方向的 Agent 行為與系統(tǒng)防護(hù),而是被傳統(tǒng)安全廠商的智能化包裝和基礎(chǔ)的內(nèi)容合規(guī)拿走了。
奇安信集團(tuán)董事長齊向東在 2026 中國國際軟件博覽會上提出,智能體部署要 " 把智能體畫在圈里,管好‘手腳’ "。他提出部署圈、連接圈、權(quán)限圈、數(shù)據(jù)圈、審計(jì)圈五個(gè)圈的概念,并以智能體安全管理平臺為大腦、以 AI 安全網(wǎng)關(guān)為中樞,形成發(fā)現(xiàn)、研判、定位、處置、優(yōu)化的完整閉環(huán)。
" 智能體是當(dāng)前提高生產(chǎn)力的最強(qiáng)引擎,數(shù)字員工將成為企業(yè)骨干。" 齊向東說," 但智能體重構(gòu)軟件,安全是一道‘必答題’。" 這道必答題的答案,正在被 2026 年的市場、政策和產(chǎn)業(yè)實(shí)踐共同書寫。
但當(dāng) Gartner 的調(diào)查顯示僅有約三分之一的企業(yè)擁有明確的 AI 治理結(jié)構(gòu)、且其中多數(shù)僅部分遵守自身規(guī)則時(shí),當(dāng) AI 軟件支出仍是 AI 安全支出的約 9 倍時(shí),這個(gè)答案遠(yuǎn)未完成。
當(dāng) AI 系統(tǒng)從 " 工具 " 走向 " 同事 ",安全不再是一個(gè)可以事后補(bǔ)上的選項(xiàng),而是決定這場技術(shù)變革能否持續(xù)的前提條件。
信息來源說明:
數(shù)據(jù)來源:
Gartner、IDC、Technavio、AvePoint、世界經(jīng)濟(jì)論壇、浙商證券、天融信、綠盟科技、啟明星辰、CrowdStrike、Okta、NVIDIA、OWASP、NIST、全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會、歐盟 AI 法案
研報(bào)來源:
Gartner,《Worldwide AI Spending by Market, 2025-2027》,2026 年 9 月
IDC,《中國人工智能安全支出市場預(yù)測,2026-2030》
Technavio,《AI Agent 安全與身份管理平臺市場報(bào)告》,2026 年 5 月
浙商證券,《AI 安全行業(yè)點(diǎn)評》,2026 年 9 月 22 日
報(bào)道來源:
央視網(wǎng),OpenAI 模型失控入侵事件報(bào)道,2026 年 9 月
澎湃新聞,PocketOS 智能體刪庫事件報(bào)道,2026 年 5 月 11 日
證券之星,天融信 AI 安全業(yè)務(wù)圖表,2026 年 8 月 31 日
公開報(bào)道,OpenAI 與 Hugging Face 入侵事件,2026 年 8 月 26 日
公開報(bào)道,HiddenLayer、Obsidian Security、Cyera 融資與收購,2026 年 6-9 月
其他來源:
吳世忠,西湖論劍大會發(fā)言,2026 年 9 月
齊向東,2026 中國國際軟件博覽會發(fā)言,2026 年
喬治 · 庫爾茨,CrowdStrike 財(cái)報(bào)電話會議發(fā)言,2026 年 8 月