探索分布式存儲與通信:去中心化共享及通訊(DSAC)

在當今數字化時代,分布式系統的重要性愈發凸顯。它不僅能提升數據的存儲安全性和可靠性,還能增強通信的效率和隱私性。于是我做了這個去中心化共享及通訊的程序,它構建了一個強大的分布式存儲和通信網絡,下面我們就來詳細了解其實現原理和核心功能。

程序概述

實現了一個基于點對點(P2P)網絡的分布式存儲和通信系統。該系統允許節點加入網絡、共享文件、存儲文件塊以及進行加密通信。它采用了分布式哈希表(DHT)的思想,通過節點間的協作來存儲和檢索文件。

核心類與功能

1.?Node?類

Node?類代表網絡中的一個節點,它包含了節點的基本信息和狀態。以下是該類的主要功能:

  • 地址簿管理:維護一個地址簿,記錄網絡中其他節點的信息,包括主機名、端口號和最后活躍時間。
  • 文件管理:存儲文件的元數據和文件塊,支持文件的注冊和廣播。
  • 加密密鑰管理:使用 SHA - 256 算法為每個節點生成共享加密密鑰,確保通信的安全性。
class Node:def __init__(self, host, port, domain):self.host = hostself.port = portself.domain = domainself.address_book = {}  # {domain: (host, port, last_seen)}self.files = {}  # {file_hash: {'name': str, 'size': int, 'chunks': list}}self.stored_chunks = {}  # {chunk_hash: data}self.network_initialized = Falseself.is_bootstrap = Falseself.peer_lock = threading.Lock()self.file_lock = threading.Lock()self.shared_secrets = {}  # 存儲加密密鑰# 初始化時將自己加入地址簿self.add_peer(domain, host, port)

2.?NetworkManager?類

NetworkManager?類負責節點的網絡通信和管理,它處理節點的加入、消息傳遞、文件上傳和下載等任務。以下是該類的主要功能:

  • 服務器啟動:啟動一個 TCP 服務器,監聽其他節點的連接請求。
  • 節點加入網絡:允許節點通過引導節點加入網絡,并同步地址簿信息。
  • 消息傳遞:支持直接消息和中繼消息的發送和接收,確保通信的可靠性。
  • 文件操作:實現文件的上傳、下載和存儲,將文件分割成塊并存儲在多個節點上。
class NetworkManager:def __init__(self, node, log_callback):self.node = nodeself.log_callback = log_callbackself.server_socket = Noneself.running = False# 啟動節點狀態檢查self.status_check_timer = threading.Timer(PING_INTERVAL, self.check_peer_status)self.status_check_timer.daemon = Trueself.status_check_timer.start()def start_server(self):self.server_socket = socket.socket(socket.AF_INET, socket.SOCK_STREAM)self.server_socket.setsockopt(socket.SOL_SOCKET, socket.SO_REUSEADDR, 1)self.server_socket.bind((self.node.host, self.node.port))self.server_socket.listen(5)self.running = Trueserver_thread = threading.Thread(target=self._accept_connections)server_thread.daemon = Trueserver_thread.start()self.log_callback(f"服務器已啟動在 {self.node.host}:{self.node.port}")

核心功能實現

1. 節點加入網絡

節點通過向引導節點發送?join?請求來加入網絡。引導節點收到請求后,會檢查域名是否已存在,如果不存在則將新節點添加到地址簿,并廣播新節點信息給其他節點。

def _handle_join(self, message, client_socket):domain = message['domain']host = message['host']port = message['port']# 檢查域名是否已存在if domain in self.node.address_book:response = {'type': 'join_error','message': '域名已存在'}client_socket.send(json.dumps(response).encode())self.log_callback(f"拒絕加入: 域名 {domain} 已存在")return# 添加新節點到地址簿self.node.add_peer(domain, host, port)# 發送完整的地址簿給新節點response = {'type': 'join_ack','bootstrap': self.node.is_bootstrap,'address_book': self.node.get_all_peers_with_status()}client_socket.send(json.dumps(response).encode())# 通知日志self.log_callback(f"新節點加入: {domain} ({host}:{port})")# 廣播新節點信息給所有已知節點(除了新節點自己)self._broadcast_new_node(domain, host, port)

2. 文件上傳與下載

文件上傳時,系統會將文件分割成多個塊,并將每個塊存儲在多個節點上。同時,文件的元數據會被廣播到網絡中的其他節點。文件下載時,系統會首先獲取文件的元數據,然后從各個節點收集文件塊,最后驗證文件的完整性并保存。

def upload_file(self, file_path, num_chunks=4, num_replicas=2):try:file_name = os.path.basename(file_path)file_size = os.path.getsize(file_path)# 讀取文件內容with open(file_path, 'rb') as f:file_data = f.read()# 創建文件哈希file_hash = hashlib.sha256(file_data).hexdigest()# 分割文件為多個塊chunks = []chunk_size = max(FILE_CHUNK_SIZE, (len(file_data) + num_chunks - 1) // num_chunks)for i in range(0, len(file_data), chunk_size):chunk = file_data[i:i+chunk_size]chunk_hash = hashlib.sha256(chunk).hexdigest()chunks.append(chunk_hash)# 存儲塊到多個節點self._store_chunk(chunk, chunk_hash, num_replicas)# 注冊文件元數據metadata = {'name': file_name,'size': file_size,'chunks': chunks}self.node.register_file(file_hash, file_name, file_size, chunks)# 廣播文件元數據self.node.broadcast_file_metadata(file_hash, metadata)# 通知日志self.log_callback(f"文件上傳成功: {file_name} (哈希: {file_hash})")return file_hashexcept Exception as e:self.log_callback(f"文件上傳失敗: {str(e)}")return None

3. 加密通信

系統使用 AES 算法對消息進行加密,確保通信內容的隱私性。每個節點會根據雙方的域名生成一個共享密鑰,用于加密和解密消息。

def _generate_shared_key(self, target_domain):"""生成共享密鑰 - 基于雙方域名生成確定性密鑰"""# 按字母順序排序域名以確保雙方生成相同密鑰domains = sorted([self.node.domain, target_domain])key_str = f"{domains[0]}-{domains[1]}"# 使用SHA-256生成256位哈希,取前16字節作為AES-128密鑰key = hashlib.sha256(key_str.encode()).digest()[:16]self.node.shared_secrets[target_domain] = keyreturn keydef _encrypt_message(self, message, key):iv = get_random_bytes(16)cipher = AES.new(key, AES.MODE_CFB, iv)encrypted = cipher.encrypt(message.encode())encrypted_base64 = base64.b64encode(encrypted).decode()while len(encrypted_base64) % 4 != 0:encrypted_base64 += '='iv_base64 = base64.b64encode(iv).decode()while len(iv_base64) % 4 != 0:iv_base64 += '='return encrypted_base64, iv_base64

總結

DSAC是一個功能強大的分布式存儲和通信系統,它通過節點間的協作實現了文件的安全存儲和高效通信。其采用的分布式架構和加密技術確保了系統的可靠性和隱私性。通過深入了解這個程序,我們可以學習到分布式系統的設計和實現思路,為構建更復雜的分布式應用打下基礎。

希望這篇文章能幫助你更好地理解?DSAC程序,如果你有任何問題或建議,歡迎在評論區留言。

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/diannao/85747.shtml
繁體地址,請注明出處:http://hk.pswp.cn/diannao/85747.shtml
英文地址,請注明出處:http://en.pswp.cn/diannao/85747.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

ass字幕嵌入mp4帶偏移

# 格式轉化文件,包含多種文件的互相轉化,主要與視頻相關 from pathlib import Path import subprocess import random import os import reclass Utils(object):staticmethoddef get_decimal_part(x: float) -> float:s format(x, .15f) # 格式化為…

05 APP 自動化- Appium 單點觸控 多點觸控

文章目錄 一、單點觸控查看指針的指針位置實現手勢密碼: 二、多點觸控 一、單點觸控 查看指針的指針位置 方便查看手勢密碼-九宮格每個點的坐標 實現手勢密碼: 執行手勢操作: 按壓起點 -> 移動到下一點 -> 依次移動 -> 釋放&am…

【軟件】在 macOS 上安裝 MySQL

在 macOS 上安裝 MySQL 有多種方法,以下是兩種常見的安裝方式:通過 Homebrew 安裝和通過安裝包安裝。以下是詳細的步驟: 一、通過 Homebrew 安裝 MySQL Homebrew 是 macOS 的包管理器,使用它安裝 MySQL 非常方便。 1.安裝 Home…

第11節 Node.js 模塊系統

為了讓Node.js的文件可以相互調用,Node.js提供了一個簡單的模塊系統。 模塊是Node.js 應用程序的基本組成部分,文件和模塊是一一對應的。換言之,一個 Node.js 文件就是一個模塊,這個文件可能是JavaScript 代碼、JSON 或者編譯過的…

力扣熱題100之二叉樹的直徑

題目 給你一棵二叉樹的根節點,返回該樹的 直徑 。 二叉樹的 直徑 是指樹中任意兩個節點之間最長路徑的 長度 。這條路徑可能經過也可能不經過根節點 root 。 兩節點之間路徑的 長度 由它們之間邊數表示。 代碼 方法:遞歸 計算二叉樹的直徑可以理解…

OpenCV CUDA模塊圖像處理------創建CUDA加速的Canny邊緣檢測器對象createCannyEdgeDetector()

操作系統:ubuntu22.04 OpenCV版本:OpenCV4.9 IDE:Visual Studio Code 編程語言:C11 算法描述 該函數用于創建一個 CUDA 加速的 Canny 邊緣檢測器對象(CannyEdgeDetector),可以在 GPU 上高效執行 Canny 邊…

unix/linux,sudo,其內部結構機制

我們現在深入sudo的“引擎室”,探究其內部的結構和運作機制。這就像我們從觀察行星運動,到深入研究萬有引力定律的數學表達和物理內涵一樣,是理解事物本質的關鍵一步。 sudo 的內部結構與機制詳解 sudo 的執行流程可以看作是一系列精心設計的步驟,確保了授權的準確性和安…

什么是 TOML?

🛠 Rust 配置文件實戰:TOML 語法詳解與結構體映射( 在 Rust 中,Cargo.toml 是每個項目的心臟。它不僅定義了項目的名稱、版本和依賴項,還使用了一種輕巧易讀的配置語言:TOML。 本文將深入解析 TOML 的語法…

react native webview加載本地HTML,解決iOS無法加載成功問題

在react native中使用 “react-native-webview”: “^13.13.5”,加載HTML文件 Android: 將HTML文件放置到android/src/main/assets目錄,訪問 {uri: file:///android_asset/markmap/index.html}ios: 在IOS中可以直接可以直接放在react native項目下,訪問…

數據結構(JAVA版)練習題

(題目難易程度與題號順序無關哦) 目錄 1、多關鍵字排序 2、集合類的綜合應用問題 3、數組排序 4、球的相關計算問題 5、利用類對象計算日期 6、日期計算問題 7、星期日期的計算 8、計算坐標平面上兩點距離 9、異常處理設計問題 10、Java源文件…

04-redis-分布式鎖-redisson

1 基本概念 百度百科:控制分布式系統之間同步訪問共享資源方式。 在分布式系統中,常常需要協調他們的動作。如果不同的系統或是同一個系統的不同主機之間共享了一個或一組資源,那么訪問這些資源的時候,往往需要互斥來防止…

性能優化 - 案例篇:緩存_Guava#LoadingCache設計

文章目錄 Pre引言1. 緩存基本概念2. Guava 的 LoadingCache2.1 引入依賴與初始化2.2 手動 put 與自動加載(CacheLoader)2.2.1 示例代碼 2.3 緩存移除與監聽(invalidate removalListener) 3. 緩存回收策略3.1 基于容量的回收&…

使用jstack排查CPU飆升的問題記錄

最近,看到短視頻傳播了一個使用jstack來協助排查CPU飆升的案例。我也是比較感興趣,參考了視頻博主的流程,自己做了下對應案例的實戰演練,在此,想做一下,針對相關問題模擬與排查演練的實戰過程記錄。 案例中…

Sql Server 中常用語句

1.創建用戶數據庫 --創建數據庫 use master --切換到master數據庫 go-- 終止所有與SaleManagerDB數據庫的連接 alter database SaleManagerDB set single_user with rollback immediate goif exists (select * from sysdatabases where nameSaleManagerDB) drop database Sal…

聯通專線賦能,億林網絡裸金屬服務器:中小企業 IT 架構升級優選方案

在當今數字化飛速發展的時代,中小企業面臨著日益增長的業務需求與復雜多變的市場競爭環境。如何構建高效、穩定且具性價比的 IT 架構,成為眾多企業突破發展瓶頸的關鍵所在。而億林網絡推出的 24 核 32G 裸金屬服務器,搭配聯通專線的千兆共享帶…

LangChain核心之Runnable接口底層實現

導讀:作為LangChain框架的核心抽象層,Runnable接口正在重新定義AI應用開發的標準模式。這一統一接口設計將模型調用、數據處理和API集成等功能封裝為可復用的邏輯單元,通過簡潔的管道符語法實現復雜任務的聲明式編排。 對于面臨AI應用架構選擇…

CSP嚴格模式返回不存在的爬蟲相關文件

文章目錄 說明示例(返回404)示例(創建CSP例外) 說明 日期:2025年6月4日。 CSP嚴格模式是default-src none,但有些web應用中,在爬蟲相關文件不存在的情況下,依舊返回了對應文件&…

DeviceNET從站轉EtherNET/IP主站在鹽化工行業的創新應用

在工業自動化飛速發展的今天,鹽化工行業也在積極探索智能化升級的路徑。其中,設備之間的高效通信與協同工作成為了提升生產效率和質量的關鍵。而JH-DVN-EIP疆鴻智能DeviceNET從站轉EtherNET/IP主站的技術應用,為鹽化工行業帶來了全新的解決方…

安裝 Nginx

個人博客地址:安裝 Nginx | 一張假鈔的真實世界 對于 Linux 平臺,Nginx 安裝包 可以從 nginx.org 下載。 Ubuntu: 版本Codename支持平臺12.04precisex86_64, i38614.04trustyx86_64, i386, aarch64/arm6415.10wilyx86_64, i386 在 Debian/Ubuntu 系統…

默認網關 -- 負責轉發數據包到其他網絡的設備(通常是路由器)

? 默認網關概括說明: 默認網關(Default Gateway)是網絡中一臺負責轉發數據包到其他網絡的設備(通常是路由器)。當一臺主機要訪問不在本地子網內的設備時,會將數據包發給默認網關,由它繼續轉發…