聯邦元學習實現個性化物聯網的框架

隨著數據安全和隱私保護相關法律法規的出臺,需要直接在中央服務器上收集和處理數據的集中式解決方案,對于個性化物聯網而言,訓練各種特定領域場景的人工智能模型已變得不切實際。基于此,中山大學,南洋理工大學,北京大學,奧斯陸大學以及普林斯頓大學聯合提出了一個安全、經濟高效且領域自適應的框架——Cedar,以隱私保護的方式訓練個性化模型。本質上,Cedar 集成了聯邦學習和元學習,從而在個性化物聯網中實現安全的知識轉移,從而構建具有高泛化能力且可被客戶端快速調整的模型。通過使用來自不同領域的標準數據集進行評估,Cedar 在效率和安全性等方面均取得了顯著的提升。這些結果揭示了聯邦元學習的可行性和穩健性,從而釋放了人工智能在改革個性化物聯網方面的潛力。

fig1

論文:You, L., Guo, Z., Yuen, C. et al. A framework reforming personalized Internet of Things by federated meta-learning. Nat Commun 16, 3739 (2025). https://doi.org/10.1038/s41467-025-59217-z
論文鏈接:https://www.nature.com/articles/s41467-025-59217-z
項目地址:https://github.com/IntelligentSystemsLab/generic_and_open_learning_federator

目錄

  • 聯邦元學習與PIoT
  • Cedar框架

聯邦元學習與PIoT

PIoT即個性化IoT,兼顧整體系統效率和IoT端的個性化服務。AI模型在服務端收集高質量樣本訓練,然后根據個人偏好微調。為了發揮PIoT在邊緣計算的優勢,目前面臨以下問題:

  • 服務器上的集中訓練不足:原因是客戶端隱私保護導致服務端的數據難以進一步擴展和質量提高。
  • PIoT客戶端的個性化需求越來越明顯:集中模型不能給個體帶來最合適的response,在客戶端定制和微調模型非常必要。

因此,需要一個以協作為導向的隱私保護FL框架。通過聚合學習參與者上傳的本地模型來訓練全局模型,而不是直接在服務器上收集和處理私人數據。目前FL為了獲得一個與全局模型能力相當的客戶端模型依然面臨下面挑戰:

  • 不同客戶端的數據是Non-IID的,直接匯總客戶端模型,會導致全局模型在主要樣本上過擬合,阻礙個性化
  • 需要降低協作的成本:服務器和客戶端頻繁上傳和發送模型會造成通信成本增加
  • 在開放的網絡中,會面臨攻擊,惡意客戶端會上傳有毒的模型

針對三個挑戰,分別有下面解決方案:

  • 對于數據異質性:1.過濾局部數據訓練,2.知識蒸餾,元學習,原型學習提取代表性知識訓練全局模型
  • 對于成本:1.減少模型大小和學習輪數,2.優化云-邊緣的協作拓撲
  • 對于攻擊:同態加密,安全多方計算防御惡意客戶端

目前這些方案的缺陷是,不能直接組合到PIoT中,比如提高了安全性,學習成本會增大,或者降低成本,模型性能下降。Cedar集成了聯邦學習和元學習,可以保護隱私并用元模型快速適應個性化領域,非對稱的模型上傳機制提高協作效率,并防御攻擊。Cedar封裝在GOLF中(generic and open learning federator)。

Cedar框架

Cedar的三個階段,1.學習準備,2.元模型訓練,3.模型部署(圖a)

  • 階段1:服務端(協調器-coordinator)收到客戶端的更新請求,首先會激活有訓練數據集的客戶端
  • 階段2:元模型通過協調器與客戶端交互進行訓練,首先,協調器把任務規范發給激活的客戶端,每個客戶端在本地訓練,上傳重要層(節省成本)到服務器聚合更新為全局元模型。
    對于階段2,考慮到Non-IID的數據異質性,Cedar不從客戶端提取局部知識再聚合,而是用元學習獲得可泛化的全局元模型----圖b
    Cedar自動過濾重要模型層,并只上傳重要層,節省成本----圖c
    Cedar利用非對稱模型進行防御,協調器可以檢測異常的更新----圖d
  • 階段3:訓練完全局元模型后,PIoT中的客戶端下載元模型,根據本地數據微調,獲得個性化模型—圖e

fig2

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/pingmian/78246.shtml
繁體地址,請注明出處:http://hk.pswp.cn/pingmian/78246.shtml
英文地址,請注明出處:http://en.pswp.cn/pingmian/78246.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

audio 核心服務AudioPolicyService 和AudioFlinger啟動流程

目錄 1、audioserver啟動 2、AudioPolicyService啟動 3、AudioFlinger啟動 audio的核心服務有兩個,AudioPolicyService 和AudioFlinger他們到在audioserver一個進程中 1、audioserver啟動 設備開機,系統啟動時將執行 /system/etc/init/audioserver.rc…

反爬蟲機制中的驗證碼識別:類型、技術難點與應對策略

在互聯網數據抓取領域,驗證碼識別是爬蟲過程中的關鍵環節之一。下面對常見驗證碼類型、技術難點及應對策略進行詳細解析,并提供多種場景下的代碼實現示例。 一、驗證碼類型與技術難點 (一)圖形驗證碼 1. 字符驗證碼 特征&#…

vue element使用el-table時,切換tab,table表格列項發生錯位問題

展示問題 問題描述:使用el-table的fixed"right"屬性后,如果切換tab時,回出現最后一列錯誤的問題 官網提供解決方法:doLayout 需要注意的事項:我這里是通過組件使用的table組件,涉及多層組件封裝…

示例:Spring JDBC 聲明式事務(xml配置形式)

聲明式事務是指在不修改源代碼的情況下通過配置applicationContext.xml自動實現事務控制,其本質是AOP環繞通知。它的觸發時機為:1、當目標方法執行成功時自動提交事務,2、當目標方法拋出運行時異常時,自動事務回滾 核心步驟示例&a…

在vmware中ubuntu系統因為安裝了docker查不到ip地址

問題截圖: 根據提供的截圖信息,可以明確看到ens33網卡處于**物理連接斷開(NO-CARRIER)且接口關閉(DOWN)**的狀態,這是導致無法獲取IP地址的直接原因。以下是針對VMware虛擬機的具體解決方案&am…

51c大模型~合集121

我自己的原文哦~ https://blog.51cto.com/whaosoft/13869815 #大模型何以擅長小樣本學習? 這項研究給出詳細分析 近年來,大語言模型(LLM)在人工智能領域取得了突破性進展,成為推動自然語言處理技術發展與通用人…

Babylon.js 材質統一轉換指南:將 AssetContainer 中的所有材質轉換為 PBRMetallicRoughnessMaterial

在現代 3D 開發中,基于物理的渲染(PBR)已成為行業標準。本文將詳細介紹如何在 Babylon.js 中將 AssetContainer 加載的各種材質統一轉換為 PBRMetallicRoughnessMaterial,實現項目材質的標準化。 為什么需要材質轉換? PBRMetallicRoughness…

Go slice切片使用教程,一次通關!

簡介 Go 中的 切片(slice) 是 Go 最強大、最常用的數據結構之一。它是對數組的輕量封裝,比數組更靈活,幾乎所有的集合處理都用切片來完成。 什么是切片(slice) 切片是一個擁有 長度(len&…

nodejs的包管理工具介紹,npm的介紹和安裝,npm的初始化包 ,搜索包,下載安裝包

nodejs的包管理工具介紹,npm的介紹和安裝,npm的初始化包 ,搜索包,下載安裝包 🧰 一、Node.js 的包管理工具有哪些? 工具簡介是否默認特點npmNode.js 官方的包管理工具(Node Package Manager&am…

FPGA設計 時空變換

1、時空變換基本概念 1.1、時空概念簡介 時鐘速度決定完成任務需要的時間,規模的大小決定完成任務所需要的空間(資源),因此速度和規模就是FPGA中時間和空間的體現。 如果要提高FPGA的時鐘,每個clk內組合邏輯所能做的事…

增加首屏圖片

增加首屏圖片&#xff08;bg.jpg&#xff09; web-mobile類型打包 //index.html腳本 <div id"myDiv_1111"style"background: url(./bg.jpg) 50% 50%/ 100% auto no-repeat ; width:100%;height:100%;position:absolute;"></div> //游戲內腳本…

貪心算法~~

目錄 一、理論基礎 二、題目練習 &#xff08;1&#xff09;455. 分發餅干 &#xff08;2&#xff09;53. 最大子數組和 - 力扣 &#xff08;3&#xff09;122. 買賣股票的最佳時機 II - 力扣&#xff08;LeetCode&#xff09; &#xff08;4&#xff09;860. 檸檬水找零…

形象解釋 HTTP 的四種常見請求方式及其中的區別聯系

HTTP 的常見請求方式常見的有四種&#xff1a;GET、POST、PUT、DELETE&#xff0c;它們各自的功能不一樣。 &#x1f35c; 場景比喻&#xff1a;HTTP 請求像“去餐廳點菜” 請求方式行為餐廳比喻說明GET獲取數據看菜單/問服務員&#xff1a;你們有什么菜&#xff1f;不帶食材、…

string的基本使用

string的模擬實現 string的基本用法string的遍歷&#xff08;三種方式&#xff09;&#xff1a;關于auto&#xff08;自動推導&#xff09;:范圍for: 迭代器普通迭代器(可讀可改&#xff09;const迭代器&#xff08;可讀不可改&#xff09; string細小知識點string的常見接口引…

kubernetes》》k8s》》證書有效期

cd /etc/kubernetes/pki openssl x509 -in apiserver.crt -text -noount通常&#xff0c;Kubernetes的證書是由kubeadm生成的&#xff0c;所以可能需要修改kubeadm的源碼或者配置 登錄Master節點 》》》默認延續1年 # 查看證書 檢查證書有效期 # 該命令顯示 /etc/kubernetes…

LangChain LCEL表達式語言簡介

LangChain表達式語言&#xff08;LCEL&#xff09;是專為構建AI應用鏈設計的聲明式編程框架&#xff0c;通過管道符|實現組件無縫銜接&#xff0c;支持流式處理、異步調用等生產級特性。其核心優勢在于零代碼改動實現原型到生產的過渡&#xff0c;同時保持代碼簡潔性和可維護性…

【計算機視覺】CV實踐項目- 基于PaddleSeg的遙感建筑變化檢測全解析:從U-Net 3+原理到工程實踐

基于PaddleSeg的遙感建筑變化檢測全解析&#xff1a;從U-Net 3原理到工程實踐 技術背景與項目意義傳統方法的局限性深度學習的優勢 核心技術與算法原理U-Net 3架構創新全尺度跳躍連接深度監督機制 變化檢測技術路線 實戰指南&#xff1a;從環境搭建到模型部署環境配置數據準備與…

萬字長文 | Apache SeaTunnel 分離集群模式部署 K8s 集群實踐

文章作者&#xff1a;雷寶鑫 整理排版&#xff1a;白鯨開源 曾輝 Apache SeaTunnel官網鏈接: https://seatunnel.apache.org/ Apache SeaTunnel(以下簡稱SeaTunnel&#xff09;是一款新一代高性能、分布式的數據集成同步工具&#xff0c;正受到業界廣泛關注和應用。SeaTunnel支…

深入解析YOLO v1:實時目標檢測的開山之作

目錄 YOLO v1 算法詳解? ?1. 核心思想? ?2. 算法優勢? ?3. 網絡結構&#xff08;Unified Detection&#xff09;?? ?4. 關鍵創新? ?5. 結構示意圖&#xff08;Fig1&#xff09;? Confidence Score 的計算? 類別概率與 Bounding Box 的關系? 后處理&…

信令與流程分析

WebRTC是h5支持的重要特征之一&#xff0c;有了它&#xff0c;不再需要借助音視頻相關的客戶端&#xff0c;直接通過瀏覽器的Web頁面就可以實現音視頻聊天功能。 WebRTC項目是開源的&#xff0c;我們可以借助WebRTC&#xff0c;構建自己的音視頻聊緹娜功能。無論是前端JS的Web…