近日，由中國信息通信研究院主辦的2025人工智能產業及賦能新型工業化大會在北京盛大召開。大會以“人工智能+”行動與新型工業化戰略為核心，匯聚產業鏈專家、企業代表及監管機構，共探AI技術落地痛點與安全治理路徑。作為深耕數據安全領域20年的行業領軍者，明朝萬達業務創新中心總工受邀參與AI安全治理分論壇，以《智防AI安全“新”挑戰，共繪安全新藍圖》為主題發表分享，聚焦 AI 安全核心議題，從風險剖析、技術實踐到生態協同，系統輸出明朝萬達對 AI 安全治理的思考與方案。
當前 AI 技術已深度滲透政務、金融、工業等領域，呈現 “無處不在” 的應用態勢，但 “AI 并非無所不能”—— 隨著數字與物理空間的邊界持續打破，安全風險也呈現新特征。從風險本質來看，AI 時代的安全問題是 “新態勢” 而非 “新問題”：傳統場景中，數據泄露多為萬級以內的局部影響，算法決策偏差范圍有限，物理與數字風險獨立無傳導，人工攻擊效率低、范圍窄；而 AI 加持下，數據泄露規模躍升至千萬 / 億級，影響延伸至行業乃至國家層面，算法偏見固化易形成系統性風險，“數字 - 物理” 雙向聯動可能引發全鏈條癱瘓，AI 賦能更使攻擊效率提升 10-100 倍，攻防技術差距顯著拉大。
這些風險進一步貫穿 AI 全生命周期：數據階段存在違規使用、訓練數據內容 / 標注不合規、數據與個人信息泄露及濫用問題；訓練階段面臨對抗樣本攻擊、模型魯棒性不足、梯度逆向工程等隱患；使用階段需防范用戶惡意輸入、危害輸出與模型濫用；部署階段要應對 API 接口防護不足、注入攻擊與模型逆向破解；運行階段則需警惕提示詞攻擊、違法有害信息輸出與網絡內容生態污染，全鏈路風險需針對性構建防御體系。
針對上述挑戰，明朝萬達提出 “檢測 - 分析 - 響應一體化的 AI 安全閉環防御體系”，以 AI 技術強化 AI 安全防護：通過 “閉環智能防護” 構建數字與物理空間實時聯動感知體系，利用 AI 實時識別異常行為，提升威脅檢測精準度與響應速度；依托 “AI 驅動防御” 采用零信任架構，按需動態調整訪問控制策略，同時建立跨域身份聯邦模型，確保多場景下身份可信與權限一致；借助 “模型自我進化” 機制，讓安全模型通過持續學習適配新型攻擊，并打通物理安防與網絡安全系統，形成跨域事件自動處置閉環。
未來，明朝萬達將繼續秉承“安全鑄就數據價值，安全服務用戶業務”的發展理念，以更加堅定的決心、更加創新的思維，持續深化數據安全與AI技術的融合創新，共同完善 AI 安全生態，為新型工業化進程中的 AI 產業健康、合規發展提供堅實支撐。
