最近看到一個有意思的提問:抖音服務器帶寬有多大,為什么能夠供那么多人同時刷?今天來給小伙伴們科普一下。
抖音,百度,阿里云,騰訊都是自建的數據中心,都是 T 級別出口帶寬(總出口帶寬),也就是達到 1T=1024G/s 的出口帶寬,服務器總署基本都在 20 萬臺以上,甚至阿里云都超過了 100 萬臺。
字節跳動的數據中心總帶寬,可能在 10TB 級別左右,預期突破 15TB 級別不遠了。
一般情況下:總出口帶寬 1TB,實際機房出口帶寬可能只有 100G 上下,這是采用雙(多)鏈路設計,雙出口實現動態流量分擔,總的出口帶寬可以達到 T 級別。
大型數據中心
想要同一時間有數億人在線,TB 級別帶寬,CDN 加速和多節點,負載均衡等等技術缺一不可。
CDN 加速
1 字節跳動有多少臺服務器?
根據網絡數據整理,2017 年 2-3 萬臺服務器,這個時候主要是租用服務器為主。
2018 年,字節跳動自己建設了數據中心,最大的數據中心在河北懷來官廳湖新媒體產業園,一期 5 萬臺服務器,二期 9 萬臺服務器。
2018 年,租用+自建的服務器數量達到 17 萬臺服務器。
2020 年,根據字節跳動招聘公告的數據,顯示有 42 萬臺服務器。比 2018 年增長了 1.5 倍。(數據來自網絡)
這部分服務器都是給中國區域使用,主要應用國內的抖音,西瓜視頻,今日頭條,飛書等產品。
在美國的 TIKTOK 是獨立出來的運營,數據在美國當地存儲和分發。2020 年 Tiktok 在美國也租用了近 10 萬臺服務器
據 Business Insider 公布數據,2020 年上半年,字節跳動在美國弗吉尼亞州北部租用了能耗達 53 兆瓦的數據中心。可以容納數十萬臺服務器,占地面積可達數十萬平方英尺。
Tiktok 在印度,新加坡都在投資建設數據中心。
2 數據中心出口帶寬是多少?
聊完了服務器數量,那么咱們來點硬核的東西:字節跳動大型的數據中心出口帶寬是多少?
知識點:所謂的出口帶寬,其實就是咱們所說的下載帶寬。就是服務器給每一個手機分發數據總速度。
一般情況下,小型的 IDC 公司自建機房,比如一些網站公司,租用聯通,移動,電信的機房,可能總體出口帶寬只有 5G。超過 30G 那都是具備一定規模的企業。網絡公司營收少說也是幾千萬的企業。
所以,經常能夠看到,一些規模還不錯的企業,基本上都不再自建機房,都是使用云主機。例如阿里云的 ECS,騰訊云,百度云,AWS(亞馬遜)。
一般一個企業網站(企業官網),20M 帶寬,4G 內存,100G 硬盤,一年價格也就 4000-5000 塊錢就足夠了,趕上做活動價格可能更便宜。
這里面就是帶寬最貴,當然增加帶寬,達到一定等級,例如訪問量增大,必須要增加內存和硬盤。
相比來說,帶寬增加的話,費用更貴一些。帶寬比較昂貴,屬于稀缺資源。
我們來看中國移動的一個機房,中國移動(河北石家莊)數據中心的數據:占地面積 174 畝,總建筑面積 13 萬平方米,規劃 10 棟單體建筑,全部建成后可提供約 3 萬個機架的裝機能力。
3 個 IDC 機房共可提供 3.1 萬架機柜,15T 帶寬資源。一個機柜,全 1U 設備部署數量一般不超過 16 臺,全 2U 設備一般不超過 12 臺,全 4U 設備一般 4 到 7 臺。
我們取高性能的 2U 和 4U 服務器進行平均折中,各算一半(畢竟移動也算是有錢的大戶,不能買低端的 1U 設備)。
那么 3.1 萬架機柜就可以安裝,最多 21-36 萬臺服務器。這里粗略取一個平均值:30 萬臺服務器。
享受 15T 的出口帶寬資源。當然作為電信的干路網,移動拿帶寬資源肯定是要比字節跳動更有優勢的。
所以,我們粗略地估計字節跳動自建的 17 萬臺服務器的數據中心。總出口帶寬可能在 7Tb-10TB 上下。
基本上肯定會采用雙出口流量設計,再加上多鏈路的部署方式:可以做到實際出口帶寬在 800G-1TG 就可以實現 10T 左右的總出口帶寬。【這是技術方式】
?字節跳動 2018 年河北懷化數據中心
T 級別出口帶寬是什么概念,如果我告訴你 2009 年,整個上海的出口帶寬才 1140G,也就是剛剛達到 1TB。
在短短的 10 年后,一個企業的數據中心的出口帶寬就超過 1TB,這個速度真的不可想象。
要知道 2009 年,雖然智能手機不發達,但是個人 PC 銷量已經非常龐大了。
3 CDN 加速,讓大眾刷抖音,看視頻都不再卡。
CDN 的全稱是Content Delivery Network,即內容分發網絡。CDN 是構建在現有網絡基礎之上的智能虛擬網絡,依靠部署在各地的邊緣服務器,通過中心平臺的負載均衡、內容分發、調度等功能模塊,使用戶就近獲取所需內容,降低網絡擁塞,提高用戶訪問響應速度和命中率
給大伙看一下 2015 年騰訊 5 億日活,集合了音樂,即時通訊等等產品的 CDN 的級別,達到了 10TB 帶寬。每天請求萬億次。
?2015 年騰訊 CDN 的級別
因此,這里說字節跳動整體服務器有 10TB 應該只少不多。畢竟抖音日活有 6 億,西瓜視頻+今日頭條我們粗略算是 2 億,總計有 8 億的日活。
就是這么大的帶寬和技術實力,才能讓我們看視頻這么順暢。
整理自:https://t.cn/A6aZDD2E