背景介紹
?6月20日下午，“2024信通院數據智能大會”圓滿落幕，摩斯技術負責人殷山在論壇上分享了摩斯在大模型隱私保護技術和行業應用的探索。
殷山發表“大模型隱私保護”主題演講?
摩斯技術負責人殷山在“數據智能安全主題論壇“上，帶來“大模型隱私保護技術與應用”的分享，主要從以下三點進行詳細闡述：
1.大模型應用中的隱私泄露風險；
2.大模型隱私保護技術；
3.螞蟻摩斯的大模型隱私保護產品。
大模型的生成和應用環節涉及海量的數據傳輸，容易造成個人隱私和企業業務機密信息泄漏，比如模型輸入提示詞、訓練數據、私有化部署模型的隱私安全等等。但由于大模型和數據的緊密關聯性，需要從全鏈路出發進行隱私保護的設計。
在技術層面，可以在如下幾個階段的進行隱私保護
-
原始數據的隱私保護技術：比如數據脫敏和數據合成等，對敏感信息、機密信息進行加密或替換后，再進行傳輸或使用，保護原始數據隱私；
-
訓練和微調過程中的隱私保護技術：比如拆分微調和跨域微調，通過對訓練數據和模型進行拆分和有損壓縮等方式，保護訓練數據和模型提供方的模型隱私安全；
-
推理過程中的隱私保護技術：比如匿名推理和模型混淆，通過對提示詞匿名化、模型計算邏輯干擾等處理方式，防止信息竊取。
最后，殷山介紹了摩斯在大模型隱私保護產品方案上的探索，摩斯采用差分隱私、聯邦大模型拆分和跨域微調、模型混淆、可信硬件等相結合的獨創性設計，在原始數據不出域的情況下，實現數據輸入、微調、推理全鏈路數據和模型隱私安全。
??展覽精彩瞬間??
展覽現場有包含螞蟻摩斯在內的10+展商進行產品SHOW。螞蟻摩斯大模型隱私保護方案也在該展會上亮相，也是首次對外展示。
關注我，獲取更多資訊~
