商業與技術洞察公司Gartner指出，中國企業在迅速整合生成式人工智能（生成式AI）的過程中意識到，生成式AI既是強大的防御機制，也構成了顯著的新攻擊面。Gartner針對AI使用治理、AI應用安全保護和AI驅動型威脅的防御，為中國的首席信息官（CIO）及其網絡安全團隊提供了四大前瞻性洞察（見圖1）。
Gartner分析師們將于5月26-27日在上海舉行的Gartner2026大中華區高管交流大會上進一步詳細解讀這四大預測。
到2028年，中國網絡安全項目實現的AI價值，80%將來自任務自動化和能力擴張，而非裁減人員。
Gartner高級研究總監陳延全表示：“中國目前面臨超過200萬名專業人員的網絡安全勞動力缺口，同比增長19%。這種短缺使得裁減人員在戰略上成為不可能，因為AI主要被用于填補現有職位空缺，而非取代現有員工。除了通用的安全技能短缺，缺乏精通AI的人才，這是全球AI實施中第二常見的障礙?！?/p>
基于此，Gartner提出以下四點建議：
重點采購為常規運營任務（如自動匹配或任務分解）提供嵌入式自動化功能的安全產品和服務供應商，優先考慮開箱即用的運營就緒性，以確保在不招聘新專家的情況下立即獲得生產力提升。
將投資敘事從裁員轉向能力擴張，為董事會重塑AI雄心，例如，量化AI在現有運營模式下可自動處理的未解決安全告警和合規積壓工作的數量。
與法律和合規團隊共同設計可審計的安全自動化工作流，以驗證安全智能體是否遵守關鍵基礎設施的人機協作協議，確保AI驅動的響應（如隔離生產服務器、重置特權憑證或修改防火墻規則）可滿足個人責任和透明度授權要求。
更新安全運營中心工作流，利用智能體編排增強現有的安全編排、自動化及響應（SOAR）和自動化框架，使用對話式AI界面加快跨工具分流的速度，并簡化涉及多個安全平臺的手動數據切換。
到2028年，超過80%的中國企業將經歷員工對生成式AI的無監管使用，使AI特定的數據泄露控制成為首席信息安全官（CISO）關注的前三大優先事項。
中國的生成式AI用戶滲透率在六個月內翻了一番，從2024年中的2.3億人增長到2025年中的5.15億人。中國員工采用生成式AI的速度遠超企業建立管理政策的速度。大量員工使用公共生成式AI工具處理日常任務，如撰寫工作總結、編寫代碼和組織數據，導致大量企業敏感信息（客戶數據、內部代碼、戰略文檔）被上傳到第三方生成式AI平臺。
Gartner高級研究總監陳延全表示：“隨著網絡安全領導者認識到公共生成式AI使用標準化對于風險控制的重要性，中國企業正在從無監管采用轉向安全啟用。企業門戶機構將優先選擇提供受控訪問門戶的安全平臺，允許員工使用經過批準的AI模型，同時在傳輸中剝離敏感企業數據?！?/p>
基于此，Gartner提出以下五點建議：
強制執行零容忍規則，禁止將客戶數據、源代碼和核心業務秘密等非公開企業數據提交給任何未經授權的公共生成式AI模型和服務，制定并執行明確的生成式AI合理使用政策（AUP）。
開展模擬特定影子AI風險（如意外源代碼泄露）的針對性培訓，將員工提升為第一道防線，以對抗普遍存在的效率優先心態。跟蹤培訓完成率，通過定期評估衡量員工行為的變化。
審計網絡出口點，以識別哪些業務部門是未經授權生成式AI平臺的最大用戶，并量化流向主要公共AI域和API的流量，從而發現當前生成式AI使用的盲點。
實施現代化技術防御，從基于靜態規則或文件的數據丟失防護，升級為通過上下文感知的數據丟失防護、安全服務邊緣，或能夠解析并攔截動態生成式AI提示詞中敏感內容的新興專用AI使用控制技術。在實施規劃中考慮資源需求、供應商選擇和集成復雜性。
提供經過審查、企業授權且在數據本地化、零訓練政策和安全審計方面具有合同保證的生成式AI工具，將業務需求引導至安全環境。
到2029年，50%針對中國廣大員工的社會工程攻擊將由深度偽造驅動，導致傳統的意識培訓失效。
移動社交和辦公應用是中國職場溝通的核心，也是深度偽造欺騙的集中攻擊面。大多數傳統的安全意識培訓仍側重于“不要點擊未知鏈接”和“檢查發件人郵件地址”，缺乏識別合成媒體跡象以及驗證可疑音視頻指令真實性的實際指導。當員工親眼看到或親耳聽到“領導"的指令時，已有的培訓知識很可能會立刻失效。
Gartner高級研究總監陳延全表示：“中國的統一通信與協作平臺將被迫集成或提供先進的反深度偽造功能。針對深度偽造威脅的新一代安全意識培訓和紅隊服務將會出現。使用深度偽造技術也將成為企業紅隊演練的新選項?！?/p>
基于此，Gartner提出以下四點建議：
對企業機構主要協作平臺進行審計，確認其是否具備活體檢測或實時偽造告警等原生反深度偽造能力，強化針對合成媒體的前線防御。在原生平臺能力缺失的情況下，使用終端安全工具或采取嚴格的政策作為補充，限制在未經驗證的通話期間執行高權限操作。
開展專門針對虛假通話中所用欺騙手段的場景化培訓，對員工進行壓力測試，了解其對產業化社會工程的警惕性。
執行嚴格的“先驗證，后信任”政策（即不將音視頻生物識別作為唯一的驗證方式），重構財務和數據訪問工作流。實施強制性的多因素身份驗證步驟，確保合成媒體無法繞過程序障礙，并記錄程序更新，以備用于監管審計。
將AI生成的語音和視頻冒充納入年度紅隊演練，檢驗跨媒體驗證流程的有效性。針對財務和IT支持等高風險部門開展模擬深度偽造攻擊，在壓力下暴露實際流程漏洞。利用這些發現來完善跨媒體驗證流程并填補流程缺口。
到2029年，超過30%部署了物理AI的中國企業，將經歷導致物理中斷的重大安全事件。
AI暴露在網絡物理系統中構成了巨大風險，因為感知、決策或執行中的任何不準確都可能導致運營失敗、物理傷害或關鍵基礎設施損壞。在中國，國家主導的在基礎設施（如能源電網、交通網絡和公共事業）中部署AI的積極舉措，顯著放大了物理AI風險的后果。
Gartner高級研究總監趙宇表示：“日益增長的物理AI安全問題將觸發中國監管機構的強力監管響應。企業必須密切關注中國國家互聯網信息辦公室（網信辦）、工業和信息化部（工信部）以及國家市場監督管理總局等機構的監管指導?！?/p>
基于此，Gartner提出以下五點建議：
建立基于零信任架構的網絡物理安全框架。
分階段部署物理AI，從高頻低風險任務（如庫存清點、非侵入式監控）開始，從而在現實世界中驗證網絡安全控制。
對所有安全關鍵型操作強制執行人機協作協議，并提供明確的干預流程、上報路徑和控制措施。
對部署在物理AI系統中的模型和軟件執行安全測試。
對用于監控和分析AI對Al通信及多代理協作的工具進行研究。持續監控、檢測并隔離偏離正常行為的單個物理AI系統或整個集群。
