AI 應用趨勢：爆發式增長與風險并存
2024 年，全球企業的 AI/ML 工具使用量呈指數級增長。Zscaler 云平臺數據顯示，2024 年 2 月至 12 月期間，AI/ML 交易總量達 5365 億次，同比激增 3464.6%，涉及 800 多個應用程序。
其中，ChatGPT 以 45.2% 的交易占比穩居首位，成為企業最常用的 AI 工具。緊隨其后的是 Grammarly（24.8%）、Microsoft Copilot（12.5%）等 productivity 和寫作輔助工具。
從行業來看，金融與保險（28.4%）、制造業（21.6%）和服務業（18.5%）是 AI 應用的前三甲。金融行業借助 AI 進行實時交易分析和欺詐檢測，制造業則通過 AI 優化供應鏈和預測設備故障。值得注意的是，盡管 AI 帶來了效率提升，但企業對安全風險的警惕性很高 ——59.9% 的 AI/ML 交互被主動攔截，ChatGPT、Grammarly 等熱門工具同時也是被攔截最多的應用，反映出企業在擁抱 AI 與數據安全之間的謹慎平衡。
在數據傳輸方面，企業向 AI 工具傳輸的數據量驚人，達 3624 TB。其中，ChatGPT 以 1481 TB 的數據傳輸量位居榜首，顯示出企業對其依賴程度之深。然而，數據泄露風險不容忽視：ChatGPT 的 DLP（數據防泄漏）違規次數高達 291 萬次，涉及社保號碼、醫療數據等敏感信息，凸顯了 AI 工具在數據安全管理上的挑戰。
AI 驅動的網絡威脅：從社會工程到自主攻擊
AI 技術的普及不僅提升了企業效率，也為網絡犯罪提供了新工具。2024 年，生成式 AI 成為網絡罪犯的 “社交工程利器”：深度偽造（Deepfake）技術可通過一張照片生成逼真視頻，語音克隆技術僅憑幾秒錄音就能模擬他人聲音，導致釣魚郵件和語音詐騙（Vishing）的成功率大幅提升。例如，威脅者利用 DeepSeek 等開源 AI 模型，僅需幾個提示即可生成高度仿真的釣魚頁面，甚至通過客戶端偽裝技術躲避安全檢測。
更令人擔憂的是 “自主 AI 代理”（Agentic AI）的崛起。這類無需人類干預的 AI 系統能自主執行復雜任務，如分析社交媒體數據、生成定制化釣魚信息，甚至自動掃描網絡漏洞。威脅者可利用其自動化攻擊鏈，從漏洞發現到數據竊取全程無人化操作，使攻擊更隱蔽、更難以防范。
行業與地域洞察：應用差異與安全挑戰
不同行業的 AI 應用呈現顯著差異。金融行業盡管 AI 交易量領先，但僅占 ChatGPT 使用量的 11.4%，嚴格的合規要求限制了生成式 AI 的應用；制造業則以 29.1% 的 ChatGPT 交易占比位居第一，凸顯其在技術文檔和流程自動化中的深度應用。醫療行業 AI 使用率較低（9.6%），但數據隱私和誤診風險仍是主要障礙。
從地域來看，美國（46.2%）和印度（8.7%）是 AI 交易的主要貢獻者（缺少中國數據）。美國憑借靈活的監管環境推動 AI 創新，而印度則通過國家 AI 戰略加速布局。歐洲市場中，英國、德國和法國主導 AI 交易，但嚴格的 GDPR 法規增加了合規成本。亞太地區，印度、日本和澳大利亞成為增長引擎，但日本因文化和監管因素，AI 日常使用率較低。
開源 AI 與新興風險：DeepSeek 的雙重挑戰
以 DeepSeek 為代表的開源 AI 模型正在改變行業格局。作為中國版 “ChatGPT”，其開源特性和低成本（API 費用僅為 OpenAI 的 3.7%）降低了 AI 使用門檻，但缺乏安全防護機制的問題顯著。測試顯示，DeepSeek 在越獄攻擊中失敗率超 50%，可被輕易用于生成惡意代碼、釣魚內容，甚至泄露企業敏感數據。
未來威脅預測與應對策略
報告預測，2025-2026 年 AI 威脅將呈現六大趨勢：AI 社交工程攻擊升級、自主 AI 代理濫用、偽造 AI 平臺詐騙、開源模型被武器化、深度偽造引發大規模欺詐，以及 GenAI 安全成為企業核心需求。
為應對這些挑戰，報告提出 “零信任 + AI” 的安全框架，建議企業采取以下措施：
- 嚴格準入控制
默認攔截所有 AI 工具，逐步引入經過安全審核的應用（如自建 ChatGPT 私有實例）。
- 數據防泄漏（DLP）
通過 AI 驅動的內容檢測，阻止敏感信息上傳至第三方 AI 模型。
- 零信任架構
利用 SSO/MFA、動態權限管理和流量加密，確保 AI 訪問安全。
- 合規與治理
遵循歐盟《AI 法案》等法規，建立 AI 使用透明化和責任機制。
- 對抗性防御
采用 AI 驅動的威脅檢測，實時攔截釣魚、惡意軟件和零日漏洞攻擊。
結語：平衡創新與安全
AI 正在重塑企業運營模式，但安全風險不容忽視。Zscaler 的報告指出，企業需以 “零信任” 為基石，結合 AI 驅動的防御體系，在擁抱創新的同時筑牢安全防線。正如報告強調：“AI 不僅是攻擊工具，更是防御的核心力量。” 唯有主動應對，才能在 AI 時代實現安全與發展的雙贏。
完整報告下載：https://www.zscaler.com/resources/industry-reports/threatlabz-ai-security-report-2025.pdf
 / argMin())
