云存儲(參考自騰訊云計算工程師認證)

目錄

存儲基礎知識:

RAID:

云存儲概述:

云存儲產品:

CBS:

CFS文件存儲:

COS對象存儲:

云存儲安全:


存儲基礎知識:

機械硬盤:HDD,即傳統硬盤,由盤片、盤片轉軸、磁頭、磁頭控制器等部分組成
固態硬盤:SSD,由控制單元和存儲單元組成。將數據存儲在電子電路上。

硬盤的性能指標:
IOPS:單位時間內系統能處理的I/O請求數量
吞吐量:帶寬,每秒磁盤I/O的流量,吞吐量=IOPS*IO大小
時延:響應時間

企業存儲發展歷程:
1、硬盤在服務器內部
2、DAS,直連式存儲,存儲設備只與一臺服務器連接。
3、存儲網絡興起:
NAS:網絡附加存儲,網絡上的文件系統:通過網絡來鏈接服務器的帶有文件系統的存儲設備,主要提供文件存儲型服務。
SAN:存儲區域網絡,網絡上的磁盤:通過IP交換機和FC交換機來連接服務器和存儲設備,從而搭建起專用于數據存儲的區域網絡,主要提供塊存儲型業務。

RAID:

Redundant Array of Independent Disks,獨立冗余磁盤陣列,能夠將多塊獨立物理硬盤按照不同的方式組合成一個硬盤組(邏輯硬盤)。

硬件RAID:由獨立的RAID控制卡實現
軟件RAID:基于服務器操作系統上的驅動程序來實現

RAID技術在將多塊物理硬盤組合成一塊邏輯盤時,會引入條帶和分條兩個概念

RAID的數據保護方式:鏡像、算法(奇偶校驗算法)

RAID0:數據條帶化,無校驗數據(不具備冗余性)
RAID1:數據鏡像,無校驗數據
RAID3:數據條帶化,有校驗數據,校驗數據單獨存放在專用硬盤中
RAID5:數據條帶化,有校驗數據,校驗數據分布式存放各個硬盤中
RAID6:數據條帶化,有兩種類型的校驗數據,提供兩級冗余,校驗數據分布式存放在各個硬盤中
RAID10:硬盤數據先完成RAID1方式組合,再完成RAID 0方式組合
RAID10:硬盤數據先完成RAID5方式組合,再完成RAID 0方式組合

可靠性:熱備與重構

存儲虛擬化:對存儲硬件資源的抽象化表現,以邏輯資源的方式呈現,提供統一全面的存儲服務的技術
基于主機的虛擬存儲:C盤、/dev/sda1等;
基于存儲設備的虛擬化:一些存儲廠商的磁盤陣列、分布式存儲產品等
基于網絡的虛擬存儲:SAN/NAS
?

云存儲概述:

分布式存儲:小聚大
存儲虛擬化:大化小

Ceph:一款開源的統一分布式存儲系統。采用crush算法來做數據分布

RadOS,ceph的核心:OSD、MON、MDS

HDFS:Hadoop File System,被設計成適合運行在通用硬件上的開源統一分布式文件存儲系統
Namenode:存儲文件系統的元數據,如文件和目錄的命名空間、數據塊的數量、副本的位置;管理客戶端對文件的訪問權限和對系統的操作;
Datanode:負責管理節點上的數據存儲;

云存儲產品:

CBS云硬盤:

Cloud Block Storage,云硬盤,是騰訊云用于提供給CVM的持久性數據塊級存儲服務。

彈性云硬盤/非彈性云硬盤:根據生命周期的不同,彈性云硬盤生命周期獨立于云服務器。

根據產品類型分類:
高性能云硬盤:混合型存儲產品。
通用型SSD云硬盤:入門級全閃類型塊存儲產品,高性價比優勢。
SSD云硬盤:I/O性能有較高要求的場景
增強型SSD云硬盤:適用于對大型數據庫,NoSQL等對實驗要求很高的I/O密集型場景
極速型SSD云硬盤:IO密集型和吞吐量密集型工作負載。

云硬盤狀態:待掛載、掛載中、使用中、卸載中、待回收、已銷毀

相關概念:
云硬盤加密、云硬盤快照、云硬盤數據使用備份點

CBS使用場景:去本地化、海量數據分析、核心數據庫

整體架構:

接入層:租戶端、運營端

后端集群:存儲池集群master控制中心/loadctrl支持流控配置/cell存儲模塊三副本/dbtrsf數據遷移、
快照集群:manager管理和維護快照中心\scheduler數據搬遷調度,數據的一致性確認\transfer

CBS讀寫流程:
基于驅動的方式實現資源的獲取。

存儲池Depot:
存儲節點cell,diskpair硬盤分組、
數據組織的顆粒度從小到大:數據塊block,邏輯小表tablet、硬盤disk、存儲節點cell、存儲池depot

快照機制:快照獨立于云硬盤存在

CFS文件存儲:

掛載點:每個文件系統都有一個掛載點,是一個IP地址

權限組:訪問控制白名單。用戶可以自行創建

SMB:一種在局域網上共享文件和打印機的一種通信協議

CIFS:通用Internet文件系統,是一種網絡文件系統訪問協議

VFS:虛擬文件系統

CFS存儲類型:都提供三副本強一致架構能力和熱遷移機制
通用標準型:適用于小規模通用數據存儲場景
通用性能型:適合于小規模延時敏感型核心業務
Turbo標準型:提供私有協議的掛載方式。適用于大規模吞吐型和負載業務
Turbo性能型:高吞吐低時延并行文件存儲。提供私有協議的掛載方式。適用于大規模小文件業務
吞吐型:分層架構的并行文件存儲。適用于渲染、游戲戰斗服務器、非線性編輯等讀密集型業務

CFS使用場景:企業文件共享、高性能計算大數據分析、流媒體處理

CFS架構:CFS管控(對外承接租戶端控制臺、運營端控制臺的請求,然后將其轉發給CFS服務端做后續執行)、CFS客戶端(云服務器本身)、CFS服務端(后端的NAS集群,master節點和agent節點)。

權限策略說明:來訪地址、讀寫權限、用戶權限、優先級(1為最高)

COS對象存儲:

對象是COS的基本單元

存儲類型:標準存儲、低頻存儲、歸檔存儲、深度歸檔存儲、智能分層存儲

使用方式:控制臺、COSBrowser工具、COSCMD工具、API方式、SDK方式

使用場景:CDN數據分發、大數據分析、容災與備份

整體架構:
接入層:對外提供COS服務的接口、
邏輯層:負責對COS數據存儲的流程控制、對象元數據的CURD請求以及各種基礎和高級特性的實現、
存儲引擎層:包含lavadb和yotta兩套引擎。數據進入存儲引擎會被分片,然后將分片存儲到數據存儲系統yotta,將對象&分片的元數據信息存儲在索引系統lavadb;

Lavadb是一個有序KV存儲平臺:
接入模塊lavadb-access、存儲模塊lavadb-cell、中控模塊lavadb master、故障探測arbiter、自動調度scheduler、數據搬遷dbtrsf

Lavadb讀寫流程:
讀流程:lavadb-access接收上層請求,初始化狀態并獲取cell內小表路由信息,先讀master小表,讀取失敗后再讀取slave小表
寫流程:lavadb-access接收上層請求,初始化狀態并獲取cell內小表路由信息,先寫slave小表,再寫master小表,最后返回寫完成。

yotta是COS的數據管理系統

云存儲安全:

安全威脅:數據不丟失、數據隱私防泄漏

云存儲數據安全技術:
數據加密技術:KMS秘鑰管理服務
數據擦除機制:硬銷毀:物理硬盤破壞;軟銷毀:對數據進行多次復寫、清除

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/diannao/97570.shtml
繁體地址,請注明出處:http://hk.pswp.cn/diannao/97570.shtml
英文地址,請注明出處:http://en.pswp.cn/diannao/97570.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

面試tips--JVM(2)--對象創建的過程

一、創建對象的完整過程1. 類加載檢查JVM 遇到 new 指令時,首先去檢查這個類 User 是否已經被加載、解析和初始化過。如果沒有,就先執行 類加載過程(加載 .class 文件到方法區/元空間、創建 Class 對象等)。【這個過程就是加載、驗…

【Web安全】CRLF注入攻擊深度解析:原理、場景與安全測試防御指南

文章目錄前言:為什么CRLF注入是安全測試不可忽視的威脅?1. CRLF注入核心原理:從字符定義到協議依賴1.1 什么是CRLF?1.2 CRLF在HTTP協議中的關鍵作用1.3 CRLF注入的本質:格式混淆攻擊2. CRLF注入典型利用場景與安全測試…

【安全學習】DVWA 靶場 SQL 注入漏洞原理分析與防御策略(教育用途)

注意:本文內容僅用于合法授權的安全研究、教學演示及漏洞復現,嚴禁用于任何未授權的系統或網絡環境。 所有操作需在本地沙箱或個人可控靶場中執行,切勿對生產環境、他人系統進行測試,非法使用后果自負。📌 法律與道德雙…

Langflow Memory 技術深度分析

Langflow Memory 技術深度分析 1. Memory 技術概述和設計理念 1.1 技術概述 Langflow 的 Memory 系統是一個多層次的記憶管理框架,專門設計用于處理對話歷史、上下文狀態和會話數據的存儲與檢索。該系統采用了分層架構設計,支持多種記憶類型和存儲后端&a…

從0開始搭建一個前端項目(vue + vite + less + typescript)

版本 node:v22.17.1 pnpm:v10.13.1 vue:^3.5.18 vite:^7.0.6 typescipt:~5.8.0腳手架初始化vue pnpm create vuelatest只選擇: TypeScript, JSX 3. 用vscode打開創建的項目,并刪除多余的代碼esl…

(十)ps識別:Swin Transformer-T 與 ResNet50 結合的 PS 痕跡識別模型訓練過程解析

Swin Transformer-T 與 ResNet50 結合的 PS 痕跡識別模型 思路分析模型融合思路: 利用ResNet50提取圖像的局部紋理和邊緣特征,這對檢測篡改區域的細微變化非常重要利用Swin Transformer-T捕捉全局上下文信息和長距離依賴關系,有助于理解圖像整…

[ICCV25]TRACE:用3D高斯直接學習物理參數,讓AI“推演”未來場景

導讀在復雜的動態世界中,讓機器人既能看懂場景,又能預測未來變化,是一項極具挑戰性的任務。過去的方法往往依賴人工標注或簡化的物理模型,卻難以真正捕捉物體運動的規律。TRACE 提出了一個全新的思路:把三維場景中的每…

電商數據開發實踐:深度剖析1688商品詳情 API 的技術與應用

在電商行業數字化轉型的進程中,數據獲取與處理的效率和準確性,直接影響著企業的競爭力。作為開發者,相信大家都遇到過這類棘手問題:在構建時,因數據不一致導致采購決策失誤;使用傳統,又常遭遇電…

Docker 詳解+示例(部署Kafka鏡像容器)

介 紹Docker 是一個開源的容器化平臺,它的核心目標是解決 “軟件在不同環境下運行不一致” 的問題,實現 “一次構建,到處運行” 。它基于 Linux 內核的底層技術,將應用程序及其依賴(如庫文件、配置、運行環境等&#x…

SciPy科學計算與應用:SciPy應用實戰-數據分析與工程計算

SciPy案例研究:從理論到實踐 學習目標 通過本課程,學員將了解一系列實際案例,深入探討SciPy庫在數據分析、物理模擬和工程計算中的應用。同時學員將學習如何利用SciPy解決實際問題,加深對SciPy各個模塊的理解和應用能力。 相關知識…

React學習教程,從入門到精通, ReactJS - 架構(6)

ReactJS - 架構 React應用的架構 React的架構就像一個井然有序的廚房,每個工具都有其特定的位置和用途。在其核心,React遵循一個基于組件的架構,這意味著我們使用可重用的組件構建應用程序。 組件:構建塊 可以把組件想象成樂高積木…

Bias / variance and neural networks|偏差/方差和神經網絡

----------------------------------------------------------------------------------------------- 這是我在我的網站中截取的文章,有更多的文章歡迎來訪問我自己的博客網站rn.berlinlian.cn,這里還有很多有關計算機的知識,歡迎進行留言或…

Linux HMM(Heterogeneous Memory Management)的應用

原理篇見【https://blog.csdn.net/shenjunpeng/article/details/150931847?spm1011.2415.3001.5331】 1. HMM 的優勢與挑戰 1.1 優勢 統一虛擬地址空間:簡化異構計算平臺的數據共享和訪問。 高效頁表同步:支持設備端的 page fault 和頁表同步&#x…

鴻蒙創新賽活動——Mac提交壓縮失敗后續

Mac提交壓縮失敗后續來了… 傳送帶【上一篇】 背景 華為2025HarmonyOS創新賽 上傳作品的時候,遇到了一個提示 ZIP包中的Office文件含有嵌入文件,就去這個Office文件找,怎么也找不到嵌入的文件。 解決方法1 上次推薦的解決方式是&#xff0…

Ubuntu操作系統下使用mysql、mongodb、redis

目錄 一、核心步驟概覽 二. MySQL (下面以其他用戶為例) 1,、安裝 2、管理服務 3、連接與使用 4、配置文件位置 5、下面來演示一下安裝好之后如何在Linux操作系統中遠程登錄和window互連Linux 遠程登錄 window連Linux(連不上的&…

springboot java開發的rocketmq 順序消息保證

首先要明確一個關鍵點:RocketMQ 保證的是一種局部順序(Partially Ordered)?,而非全局順序(Globally Ordered)。這意味著消息的順序性只在某個特定維度(比如同一個訂單ID)下保證&…

【機器學習】 14 Kernels

本章目錄 14 Kernels 479 14.1 Introduction 479 14.2 Kernel functions 479 14.2.1 RBF kernels 480 14.2.2 Kernels for comparing documents 480 14.2.3 Mercer (positive definite) kernels 481 14.2.4 Linear kernels 482 14.2.5 Matern kernels 482 14.2.6 String kerne…

Android開發-工程結構

一、項目視圖模式在開始之前,確保你的 Project 面板使用的是 【Android】 視圖(默認)。這是最常用的視圖,它將相關文件按功能邏輯分組展示。💡 你也可以切換到 【Project】 視圖查看完整的文件系統結構。二、頂級項目結…

mysql的內置函數

文章目錄mysql的內置函數時間函數1. 返回值的數據類型和格式2. 功能側重點3. 函數別名情況我現在想給一個日期加上十天,然后輸出加上十天之后的日期,我該怎么做?我現在想給一個日期減去兩天,然后輸出減去兩天之后的日期&#xff0…

【動態規劃】子序列問題

一、[最長遞增子序列](https://leetcode.cn/problems/longest-increasing-subsequence/description/)二、[擺動序列](https://leetcode.cn/problems/wiggle-subsequence/description/)三、[最長遞增子序列的個數](https://leetcode.cn/problems/number-of-longest-increasing-s…