【金三銀四】微軟java后端社招

分布式系統特性與衡量標準

透明性:使用分布式系統的用戶并不關心系統是怎么實現的,也不關心讀到的數據來自哪個節點,對用戶而言,分布式系統的最高境界是用戶根本感知不到這是一個分布式系統

可擴展性:分布式系統的根本目標就是為了處理單個計算機無法處理的任務,當任務增加的時候,分布式系統的處理能力需要隨之增加。簡單來說,要比較方便的通過增加機器來應對數據量的增長,同時,當任務規模縮減的時候,可以撤掉一些多余的機器,達到動態伸縮的效果

可用性與可靠性:一般來說,分布式系統是需要長時間甚至7*24小時提供服務的。可用性是指系統在各種情況對外提供服務的能力,簡單來說,可以通過不可用時間與正常服務時間的必知來衡量;而可靠性而是指計算結果正確、存儲的數據不丟失。

高性能:不管是單機還是分布式系統,大家都非常關注性能。不同的系統對性能的衡量指標是不同的,最常見的:高并發,單位時間內處理的任務越多越好;低延遲:每個任務的平均時間越少越好。這個其實跟操作系統CPU的調度策略很像

一致性:分布式系統為了提高可用性可靠性,一般會引入冗余(復制集)。那么如何保證這些節點上的狀態一致,這就是分布式系統不得不面對的一致性問題。一致性有很多等級,一致性越強,對用戶越友好,但會制約系統的可用性;一致性等級越低,用戶就需要兼容數據不一致的情況,但系統的可用性、并發性很高很多。

組件、理論、協議

假設這是一個對外提供服務的大型分布式系統,用戶連接到系統,做一些操作,產生一些需要存儲的數據,那么在這個過程中,會遇到哪些組件、理論與協議呢

用一個請求串起來

用戶使用Web、APP、SDK,通過HTTP、TCP連接到系統。在分布式系統中,為了高并發、高可用,一般都是多個節點提供相同的服務。那么,第一個問題就是具體選擇哪個節點來提供服務,這個就是負載均衡(load balance)。負載均衡的思想很簡單,但使用非常廣泛,在分布式系統、大型網站的方方面面都有使用,或者說,只要涉及到多個節點提供同質的服務,就需要負載均衡。

通過負載均衡找到一個節點,接下來就是真正處理用戶的請求,請求有可能簡單,也有可能很復雜。簡單的請求,比如讀取數據,那么很可能是有緩存的,即分布式緩存,如果緩存沒有命中,那么需要去數據庫拉取數據。對于復雜的請求,可能會調用到系統中其他的服務。

承上,假設服務A需要調用服務B的服務,首先兩個節點需要通信,網絡通信都是建立在TCP/IP協議的基礎上,但是,每個應用都手寫socket是一件冗雜、低效的事情,因此需要應用層的封裝,因此有了HTTP、FTP等各種應用層協議。當系統愈加復雜,提供大量的http接口也是一件困難的事情。因此,有了更進一步的抽象,那就是RPC(remote produce call),是的遠程調用就跟本地過程調用一樣方便,屏蔽了網絡通信等諸多細節,增加新的接口也更加方便。

一個請求可能包含諸多操作,即在服務A上做一些操作,然后在服務B上做另一些操作。比如簡化版的網絡購物,在訂單服務上發貨,在賬戶服務上扣款。這兩個操作需要保證原子性,要么都成功,要么都不操作。這就涉及到分布式事務的問題,分布式事務是從應用層面保證一致性:某種守恒關系。

上面說道一個請求包含多個操作,其實就是涉及到多個服務,分布式系統中有大量的服務,每個服務又是多個節點組成。那么一個服務怎么找到另一個服務(的某個節點呢)?通信是需要地址的,怎么獲取這個地址,最簡單的辦法就是配置文件寫死,或者寫入到數據庫,但這些方法在節點數據巨大、節點動態增刪的時候都不大方便,這個時候就需要服務注冊與發現:提供服務的節點向一個協調中心注冊自己的地址,使用服務的節點去協調中心拉取地址。

從上可以看見,協調中心提供了中心化的服務:以一組節點提供類似單點的服務,使用非常廣泛,比如命令服務、分布式鎖。協調中心最出名的就是chubby,zookeeper。

回到用戶請求這個點,請求操作會產生一些數據、日志,通常為信息,其他一些系統可能會對這些消息感興趣,比如個性化推薦、監控等,這里就抽象出了兩個概念,消息的生產者與消費者。那么生產者怎么講消息發送給消費者呢,RPC并不是一個很好的選擇,因為RPC肯定得指定消息發給誰,但實際的情況是生產者并不清楚、也不關心誰會消費這個消息,這個時候消息隊列就出馬了。簡單來說,生產者只用往消息隊列里面發就行了,隊列會將消息按主題(topic)分發給關注這個主題的消費者。消息隊列起到了異步處理、應用解耦的作用。

上面提到,用戶操作會產生一些數據,這些數據忠實記錄了用戶的操作習慣、喜好,是各行各業最寶貴的財富。比如各種推薦、廣告投放、自動識別。這就催生了分布式計算平臺,比如Hadoop,Storm等,用來處理這些海量的數據。

最后,用戶的操作完成之后,用戶的數據需要持久化,但數據量很大,大到按個節點無法存儲,那么這個時候就需要分布式存儲:將數據進行劃分放在不同的節點上,同時,為了防止數據的丟失,每一份數據會保存多分。傳統的關系型數據庫是單點存儲,為了在應用層透明的情況下分庫分表,會引用額外的代理層。而對于NoSql,一般天然支持分布式。

一個簡化的架構圖

下面用一個不大精確的架構圖,盡量還原分布式系統的組成部分(不過只能體現出技術,不好體現出理論)

Docker步步實踐

目錄文檔:

①Docker簡介

②基本概念

③安裝Docker

④使用鏡像:

⑤操作容器:

⑥訪問倉庫:

⑦數據管理:

⑧使用網絡:

⑨高級網絡配置:

⑩安全:

?底層實現:

?其他項目:

圖片轉存中…(img-aE0jzHRs-1626689072582)]

?其他項目:

[外鏈圖片轉存中…(img-Ht2MaPFs-1626689072583)]

有需要完整版源碼+筆記的朋友點擊這里免費獲取

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/385585.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/385585.shtml
英文地址,請注明出處:http://en.pswp.cn/news/385585.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

【面試必會】java虛擬機原理

如何才可以進大廠? 答案其實也很簡單,能力學歷。不知道大家有沒有發現,大廠的一些部門對于學歷要求已經放低了,阿里的一些部門同樣也招大專學歷的程序員,當然肯定也是因為他的能力足夠出色。 對于準備秋招的你來說&a…

函數exec

exec函數族 1. 執行指定目錄下的程序 #include <unistd.h> int execl(const char *path, const char *arg, ...);返回值&#xff1a;若出錯&#xff0c;返回-1&#xff1b;若成功&#xff0c;不返回 分析&#xff1a; path: 要執行的程序的絕對路徑變參arg: 要執行的…

【面試必備】java寫spark好不好

并發編程三大特性 原子性 一個操作或者多次操作&#xff0c;要么所有的操作全部都得到執行并且不會受到任何因素的干擾而中斷&#xff0c;要么所有的操作都執行&#xff0c;要么都不執行。 對于基本數據類型的訪問&#xff0c;讀寫都是原子性的【long和double可能例外】。 …

【面試必備】java面試題視頻講解

二、我們先來看看這份筆記到底有什么 1、先把kubernetes跑起來&#xff08;先跑起來創建kubernetes集群部署應用訪問應用Scale應用滾動更新&#xff09; 2、重要概念 3、部署kubernetes Cluster&#xff08;安裝docker安裝 kubelet.kubeadm和 kubectll用kubeadm 創建cluster&a…

【面試總結】java測試工程師培訓

阿里P8級架構師核心理論落地篇 再造淘寶&#xff0c;貫穿全系&#xff0c;阿里團隊代碼落地&#xff0c;詳細每個版本迭代&#xff0c;拒絕2-3個月PPT架構師再造淘寶之咚寶-技術支撐-完整搭建DevOps再造淘寶之咚寶-統一規則-代碼規范落地解析再造淘寶之咚寶搭建基礎服務再造淘…

進程組的應用

一、實驗1 題目&#xff1a;利用進程扇完成一個小實驗。該進程扇有 1 個父進程和 3 個子進程&#xff0c;我們希望達到圖 1 中的效果&#xff0c;即將進程 0 (父進程)和進程 1 設置成一組&#xff0c;假設為組 1&#xff0c;將進程 2 和 進程 3 設置成另一個組&#xff0c;假設…

【原理+實戰+視頻+源碼】docker映射端口教程

阿里巴巴Java崗面試題分享 1.HashMap 的內部結構&#xff1f;內部原理&#xff1f;和 HashTable 的區別&#xff0c;假如發?了 hash 碰撞&#xff0c;如何設計能讓遍歷效率?&#xff1f; 2.講一講講講 ConcurrentHashMap吧。 3.講一下JVM虛擬機內存結構&#xff0c;以及它…

前臺進程組、后臺進程組

一、前臺進程組、后臺進程組 cat | cat & cat | cat | cat 輸出結果&#xff1a; 二、主要函數應用 1. tcgetpgrp函數原型&#xff1a; #include <unistd.h> pid_t tcgetpgrp(int fd);返回值&#xff1a;若成功&#xff0c;返回前臺進程組ID, 若出錯&#xff0c;…

【原理+實戰+視頻+源碼】docker權限參數

一面&#xff1a; 個人介紹加項目介紹20分鐘 微服務架構是什么&#xff0c;它的優缺點&#xff1f; ACID CAP BASE理論 分布式一致性協議&#xff0c;二段、三段、TCC&#xff0c;優缺點 RPC過程 服務注冊中心宕機了怎么辦&#xff1f; 微服務還有其他什么組件 分布式架…

【孤兒進程】孤兒進程組、守護進程

一、孤兒進程組 1. 孤兒進程的定義&#xff1a; 定義1&#xff1a;該進程組的每個成員的父進程要么是該組的成員&#xff0c;要么在其它會話中。 定義2&#xff1a;一個進程不是孤兒進程組的條件是——該組有一個進程&#xff0c;其父進程在屬于同一會話的另一個組中。 只要能…

【吐血整理】用java編寫一個登陸界面

結構化數據、非結構化數據與半結構化數據 文章的開始&#xff0c;聊一下結構化數據、非結構化數據與半結構化數據&#xff0c;因為數據特點的不同&#xff0c;將在技術上直接影響存儲引擎的選型。 首先是結構化數據&#xff0c;根據定義結構化數據指的是由二維表結構來邏輯表…

線程概念

什么是線程 LWP&#xff1a;light weight process 輕量級的進程&#xff0c;本質仍是進程(在Linux環境下&#xff09; 進程&#xff1a;獨立地址空間&#xff0c;擁有PCB 線程&#xff1a;也有PCB&#xff0c;但沒有獨立的地址空間(共享) 區別&#xff1a;在于是否有共享地址…

【大牛瘋狂教學】cdhkafka打開的文件描述符臨界閾值

基本知識 1.學會分析源碼 程序員每天都和代碼打交道。經過數年的基礎教育和職業培訓&#xff0c;大部分程序員都會「寫」代碼&#xff0c;或者至少會抄代碼和改代碼。但是&#xff0c;會讀代碼的并不在多數&#xff0c;會讀代碼又真正讀懂一些大項目的源碼的&#xff0c;少之…

線程清理函數

一、線程清理函數 #include <pthread.h> void ptread_clean_push(void (*rtn) (void *), void *arg); 注冊清理函數&#xff0c;押棧 void ptread_clean_pop(int excute); 清理函數&#xff0c;出棧 分析&#xff1a;這兩個函數是成對出現的…

【大牛瘋狂教學】mysqlinnodb和myisam

02 JVM 線程JVM內存區域JVM運行時內存垃圾回收與算法JAVA四種引用類型GC分代收集算法 VS 分區收集算法GC垃圾收集器JAVA IO/NIOJVM類加載器 03 JAVA集合 接口繼承關系和實現LISTSETMAP 04 JAVA多線程并發 JAVA并發知識庫JAVA線程實現/創建方式4種線程池線程生命周期&#xf…

【大牛瘋狂教學】深入拆解java虛擬機百度云

Java基礎核心筆記總結 由于篇幅限制&#xff0c;我就只以截圖展示目錄內容以及部分筆記內容&#xff0c;獲取完整版王者級核心寶典只需要點擊點贊關注即可獲取領取方式&#xff01; 在這個部分我們總結了Java的基礎知識&#xff0c;涵蓋了&#xff1a;概述、開發環境、開發環境…

不可靠的信號、可靠信號

一、不可靠信號 lnux信號機制基本上是從UNIX系統中繼承過來的。早期UNIX系統中的信號機制比較簡單和原始&#xff0c;后來在實踐中暴露一些問題&#xff0c;它的主要問題是&#xff1a; 1. 進程每次處理信號后&#xff0c;就將對信號的響應設置為默認動作&#xff0c;在某些情…

【大牛系列教學】docker.service配置文件詳情

01 阿里中間件&#xff08;四面&#xff0c;Java崗&#xff09; 1.1 Java中間件一面 技術一面考察范圍 重點問了Java線程鎖&#xff1a;synchronized 和ReentrantLock相關的底層實現 線程池的底層實現以及常見的參數 數據結構基本都問了一遍&#xff1a;鏈表、隊列等 Java內存…

可重入函數和不可重入函數

一、可重入函數 為了增強程序的穩定性&#xff0c;在信號處理函數中應使用可重入函數。 所謂可重入函數是指一個可以被多個任何調用的過程&#xff0c;任務在調用時不必擔心數據是否出錯。因為進程在收到信號后&#xff0c;就將跳轉到信號處理函數去接著執行&#xff0c;如果…

【大牛系列教學】java面試常考的編程題

1. 面試官&#xff1a;工作中使用過Zookeeper嘛&#xff1f;你知道它是什么&#xff0c;有什么用途呢&#xff1f; 小菜雞的我&#xff1a; 有使用過的&#xff0c;使用ZooKeeper作為dubbo的注冊中心&#xff0c;使用ZooKeeper實現分布式鎖。ZooKeeper&#xff0c;它是一個開…