目錄
存儲基礎知識:
RAID:
云存儲概述:
云存儲產品:
CBS:
CFS文件存儲:
COS對象存儲:
云存儲安全:
存儲基礎知識:
機械硬盤:HDD,即傳統硬盤,由盤片、盤片轉軸、磁頭、磁頭控制器等部分組成
固態硬盤:SSD,由控制單元和存儲單元組成。將數據存儲在電子電路上。
硬盤的性能指標:
IOPS:單位時間內系統能處理的I/O請求數量
吞吐量:帶寬,每秒磁盤I/O的流量,吞吐量=IOPS*IO大小
時延:響應時間
企業存儲發展歷程:
1、硬盤在服務器內部
2、DAS,直連式存儲,存儲設備只與一臺服務器連接。
3、存儲網絡興起:
NAS:網絡附加存儲,網絡上的文件系統:通過網絡來鏈接服務器的帶有文件系統的存儲設備,主要提供文件存儲型服務。
SAN:存儲區域網絡,網絡上的磁盤:通過IP交換機和FC交換機來連接服務器和存儲設備,從而搭建起專用于數據存儲的區域網絡,主要提供塊存儲型業務。
RAID:
Redundant Array of Independent Disks,獨立冗余磁盤陣列,能夠將多塊獨立物理硬盤按照不同的方式組合成一個硬盤組(邏輯硬盤)。
硬件RAID:由獨立的RAID控制卡實現
軟件RAID:基于服務器操作系統上的驅動程序來實現
RAID技術在將多塊物理硬盤組合成一塊邏輯盤時,會引入條帶和分條兩個概念
RAID的數據保護方式:鏡像、算法(奇偶校驗算法)
RAID0:數據條帶化,無校驗數據(不具備冗余性)
RAID1:數據鏡像,無校驗數據
RAID3:數據條帶化,有校驗數據,校驗數據單獨存放在專用硬盤中
RAID5:數據條帶化,有校驗數據,校驗數據分布式存放各個硬盤中
RAID6:數據條帶化,有兩種類型的校驗數據,提供兩級冗余,校驗數據分布式存放在各個硬盤中
RAID10:硬盤數據先完成RAID1方式組合,再完成RAID 0方式組合
RAID10:硬盤數據先完成RAID5方式組合,再完成RAID 0方式組合
可靠性:熱備與重構
存儲虛擬化:對存儲硬件資源的抽象化表現,以邏輯資源的方式呈現,提供統一全面的存儲服務的技術
基于主機的虛擬存儲:C盤、/dev/sda1等;
基于存儲設備的虛擬化:一些存儲廠商的磁盤陣列、分布式存儲產品等
基于網絡的虛擬存儲:SAN/NAS
?
云存儲概述:
分布式存儲:小聚大
存儲虛擬化:大化小
Ceph:一款開源的統一分布式存儲系統。采用crush算法來做數據分布
RadOS,ceph的核心:OSD、MON、MDS
HDFS:Hadoop File System,被設計成適合運行在通用硬件上的開源統一分布式文件存儲系統
Namenode:存儲文件系統的元數據,如文件和目錄的命名空間、數據塊的數量、副本的位置;管理客戶端對文件的訪問權限和對系統的操作;
Datanode:負責管理節點上的數據存儲;
云存儲產品:
CBS云硬盤:
Cloud Block Storage,云硬盤,是騰訊云用于提供給CVM的持久性數據塊級存儲服務。
彈性云硬盤/非彈性云硬盤:根據生命周期的不同,彈性云硬盤生命周期獨立于云服務器。
根據產品類型分類:
高性能云硬盤:混合型存儲產品。
通用型SSD云硬盤:入門級全閃類型塊存儲產品,高性價比優勢。
SSD云硬盤:I/O性能有較高要求的場景
增強型SSD云硬盤:適用于對大型數據庫,NoSQL等對實驗要求很高的I/O密集型場景
極速型SSD云硬盤:IO密集型和吞吐量密集型工作負載。
云硬盤狀態:待掛載、掛載中、使用中、卸載中、待回收、已銷毀
相關概念:
云硬盤加密、云硬盤快照、云硬盤數據使用備份點
CBS使用場景:去本地化、海量數據分析、核心數據庫
整體架構:
接入層:租戶端、運營端
后端集群:存儲池集群master控制中心/loadctrl支持流控配置/cell存儲模塊三副本/dbtrsf數據遷移、
快照集群:manager管理和維護快照中心\scheduler數據搬遷調度,數據的一致性確認\transfer
CBS讀寫流程:
基于驅動的方式實現資源的獲取。
存儲池Depot:
存儲節點cell,diskpair硬盤分組、
數據組織的顆粒度從小到大:數據塊block,邏輯小表tablet、硬盤disk、存儲節點cell、存儲池depot
快照機制:快照獨立于云硬盤存在
CFS文件存儲:
掛載點:每個文件系統都有一個掛載點,是一個IP地址
權限組:訪問控制白名單。用戶可以自行創建
SMB:一種在局域網上共享文件和打印機的一種通信協議
CIFS:通用Internet文件系統,是一種網絡文件系統訪問協議
VFS:虛擬文件系統
CFS存儲類型:都提供三副本強一致架構能力和熱遷移機制
通用標準型:適用于小規模通用數據存儲場景
通用性能型:適合于小規模延時敏感型核心業務
Turbo標準型:提供私有協議的掛載方式。適用于大規模吞吐型和負載業務
Turbo性能型:高吞吐低時延并行文件存儲。提供私有協議的掛載方式。適用于大規模小文件業務
吞吐型:分層架構的并行文件存儲。適用于渲染、游戲戰斗服務器、非線性編輯等讀密集型業務
CFS使用場景:企業文件共享、高性能計算大數據分析、流媒體處理
CFS架構:CFS管控(對外承接租戶端控制臺、運營端控制臺的請求,然后將其轉發給CFS服務端做后續執行)、CFS客戶端(云服務器本身)、CFS服務端(后端的NAS集群,master節點和agent節點)。
權限策略說明:來訪地址、讀寫權限、用戶權限、優先級(1為最高)
COS對象存儲:
對象是COS的基本單元
存儲類型:標準存儲、低頻存儲、歸檔存儲、深度歸檔存儲、智能分層存儲
使用方式:控制臺、COSBrowser工具、COSCMD工具、API方式、SDK方式
使用場景:CDN數據分發、大數據分析、容災與備份
整體架構:
接入層:對外提供COS服務的接口、
邏輯層:負責對COS數據存儲的流程控制、對象元數據的CURD請求以及各種基礎和高級特性的實現、
存儲引擎層:包含lavadb和yotta兩套引擎。數據進入存儲引擎會被分片,然后將分片存儲到數據存儲系統yotta,將對象&分片的元數據信息存儲在索引系統lavadb;
Lavadb是一個有序KV存儲平臺:
接入模塊lavadb-access、存儲模塊lavadb-cell、中控模塊lavadb master、故障探測arbiter、自動調度scheduler、數據搬遷dbtrsf
Lavadb讀寫流程:
讀流程:lavadb-access接收上層請求,初始化狀態并獲取cell內小表路由信息,先讀master小表,讀取失敗后再讀取slave小表
寫流程:lavadb-access接收上層請求,初始化狀態并獲取cell內小表路由信息,先寫slave小表,再寫master小表,最后返回寫完成。
yotta是COS的數據管理系統
云存儲安全:
安全威脅:數據不丟失、數據隱私防泄漏
云存儲數據安全技術:
數據加密技術:KMS秘鑰管理服務
數據擦除機制:硬銷毀:物理硬盤破壞;軟銷毀:對數據進行多次復寫、清除