2025深度學習發論文&模型漲點之——液態神經網絡
液態神經網絡（Liquid Neural Networks，LNN）是一種受生物神經系統啟發的連續時間遞歸神經網絡（RNN），其核心創新在于將靜態神經網絡轉化為由微分方程驅動的動態系統。與傳統RNN在離散時間步上更新狀態不同，LNN的神經元狀態由一個微分方程描述，使其能夠更自然地處理非均勻采樣或連續的時間序列數據。這種網絡的設計理念借鑒自生物神經系統，特別是秀麗隱桿線蟲的神經結構，盡管這種微生物的神經系統只有302個神經元，但卻能產生復雜的行為。
我整理了一些液態神經網絡【論文+代碼】合集
論文精選
論文1：
[Nature子刊] Neural circuit policies enabling auditable autonomy
神經回路策略實現可審計自主性
方法
端到端學習系統：設計了一個端到端學習系統，通過卷積層感知輸入，提取圖像特征，并通過循環神經網絡（NCP）結構進行控制。
NCP網絡結構：NCP的網絡結構受秀麗隱桿線蟲神經系統布線圖的啟發，具有稀疏連接和高效的分布式控制能力。
連續時間常微分方程（ODE）：NCP利用ODE來模擬神經元的動態行為，提高了模型對時間序列數據的建模能力。
訓練方法：采用半隱式ODE求解器和反向傳播算法進行訓練，確保了訓練過程的穩定性和準確性。
創新點
緊湊網絡結構：提出了緊湊的神經回路策略（NCP），僅用19個控制神經元和253個突觸連接，實現了從高維輸入到轉向命令的映射，顯著優于現有的大規模黑盒學習系統。
性能提升：在自動駕駛的車道保持任務中，NCP在輸入噪聲增加時避免崩潰的能力比現有模型高出20%以上。
可解釋性增強：通過稀疏網絡結構和連續時間動態，提高了模型的可解釋性和魯棒性。
計算效率：與傳統的深度學習模型相比，NCP在保持高性能的同時，顯著降低了模型的復雜度和計算成本。
論文2：
Equivariant graph neural networks for fast electron density estimation of molecules, liquids, and solids
等變圖神經網絡用于分子、液體和固體的快速電子密度估計
方法
等變圖神經網絡：提出了一種基于等變圖神經網絡的機器學習框架，用于預測電子密度ρ(?r)，通過在消息傳遞圖中設置特殊的查詢點頂點（僅接收消息）來預測電子密度。
原子序數和坐標輸入：模型僅使用原子的原子序數和坐標作為輸入，無需依賴預定義的密度基函數，從而實現了從數據中直接學習電子密度。
消息傳遞機制：利用消息傳遞機制傳播原子間的相互作用信息，通過等變圖神經網絡學習原子間的相互作用。
訓練數據：在QM9分子數據集、液態碳酸乙烯酯電解質（EC）和NMC鋰離子電池正極材料等多個數據集上進行了訓練和驗證。
創新點
高精度預測：模型在QM9分子數據集上的準確性超過了DFT計算中不同交換相關泛函的典型變化范圍。
性能提升：在所有三個數據集上，模型的準確性都超越了現有技術，且計算時間比DFT快幾個數量級。
適用性廣泛：該模型不僅適用于分子，還適用于液體和固體，展示了其在不同物態下的廣泛適用性。
計算效率：模型的線性擴展特性使其在處理大規模系統時比DFT更高效，即使對于小系統，模型也比DFT快一個數量級。
論文3：
Molecular dynamics simulation with finite electric fields using Perturbed Neural Network Potentials
使用受擾動神經網絡勢的有限電場下的分子動力學模擬
方法
受擾動神經網絡勢（PNNP）：提出了一種新的分子動力學模擬方法，通過將總原子力表示為標準神經網絡勢（代表未擾動勢能面）和由電場誘導的擾動（通過原子極化張量表示）的和來實現。
消息傳遞機制：利用消息傳遞機制傳播原子間的相互作用信息，通過等變圖神經網絡學習原子間的相互作用。
訓練數據：在QM9分子數據集、液態碳酸乙烯酯電解質（EC）和NMC鋰離子電池正極材料等多個數據集上進行了訓練和驗證。
流形學習技術：采用流形學習技術壓縮波束成形問題的搜索空間，提高算法的計算效率。
創新點
高精度模擬：PNNP MD在模擬液體水的介電弛豫動力學、介電常數和場依賴的紅外光譜時，與從頭算分子動力學（AIMD）或實驗結果相媲美。
性能提升：與傳統方法相比，PNNP MD在計算效率上提高了幾個數量級，能夠處理更大規模的系統。
適用性廣泛：該方法不僅適用于分子，還適用于液體和固體，展示了其在不同物態下的廣泛適用性。
計算效率：通過避免顯式嵌入到Krein空間和基于特征分解的構建新的內積，提高了算法的計算效率。
)
