一、前言
在人工智能迅速發展的過程中，內容安全成為AI應用中的一個重要挑戰。谷歌團隊于2025年3月推出了一款名為ShieldGemma-2-4B-IT的模型，它以創新的多模態安全檢測能力，為行業樹立了新的開源責任AI標準。
與早期的僅支持文本審核的版本相比，ShieldGemma-2-4B-IT在谷歌的評估中表現出93%的暴力內容攔截準確率，并且它的誤判率降低到了行業平均水平的五分之一。此外，它的INT4量化版本僅需2.9GB的顯存，就可以在普通消費級的GPU上運行，這打破了傳統安全模型對高算力的依賴。
這種在開放生態和安全責任之間的良好平衡，使得ShieldGemma-2-4B-IT成為社交媒體審核和AI生成內容過濾等場景中的革命性工具，標志著開源模型在性能競賽之外，向技術倫理實踐的重要轉型。
內部基準評估結果
二、術語
2.1. ?ShieldGemma-2-4B-IT
是基于 Google Gemma 2 架構開發的 40 億
