mysql join語句、全表掃描 執行優化與訪問冷數據對內存命中率的影響

文章目錄

    • join執行邏輯
      • Index Nested_Loop Join(NLJ)
        • MMR(Mutli-Range Read) 優化
        • BKA(Batched Key Access)算法
      • Simple Nested_Loop Join
      • Block Nested-Loop Join(BLJ)
        • join buffer 一次放不下 驅動表
        • join buffer優化的影響:主要影響緩存命中率
        • 臨時表
      • 選用t1還是t2做驅動表
    • 全表掃描性能優化
      • 對sever層的影響
      • 對innodb的影響:主要影響緩存命中率
      • buffer pool結構
        • 針對全表掃描的buffer pool優化

join執行邏輯

Index Nested_Loop Join(NLJ)

Index Nested_Loop Join:被驅動表上有索引,查的就快一點

// 背景條件:t1表N條數據,t2表M條,t2表在a上有索引,N << M
select * from t1 join t2 on (t1.a=t2.a);

驅動表:t1 (小表)

被驅動表:t2,t2上有a索引,走索引再回表查詢

在這里插入圖片描述
圖片來自極客時間 丁奇 MySQL實戰45講

時間復雜度:N + N * 2 * log2M

N(t1全表掃描) + (t2表要查N次)N * 2(a索引上搜索一次+回表搜索一次) * log2M(樹查找)

MMR(Mutli-Range Read) 優化

正常回表都是一個一個回表查,但是如果我們是范圍查,可以一組查詢按主鍵id排序后再查(主鍵ID表上是有序的)就更快

在read_rnd_buffer中做排序

|

在這里插入圖片描述
圖片來自極客時間 丁奇 MySQL實戰45講
BKA(Batched Key Access)算法

按照MMR的思路,NLJ本來是從t1一條一條取數據去t2 a索引上找的,我們可以每次多取點(看join buffer的大小)到join buffer上排個序再一起MRR,去a索引上找。

Simple Nested_Loop Join

如果被驅動表上沒有索引,那t1、t2都全表掃描

時間復雜度:N + N * M

Block Nested-Loop Join(BLJ)

如果被驅動表上沒有索引,做點優化:join_buffer 把驅動表存到內存里,這樣對比的時候快點

原先是從磁盤上一行一行的讀t1,拿到a的值再去t2表上查;現在把t1整個存在內存join buffer中,在一行一行的拿t2和join buffer中的數據做比較

時間復雜度:N + M,內存判斷次數:N * M

join buffer 一次放不下 驅動表

分段放,每部分都執行上面的步驟。

時間復雜度:N + K * M // K就是分成了多少段,內存判斷次數:N * M

join buffer優化的影響:主要影響緩存命中率

大表join會導致冷數據進入內存緩沖區,影響正常業務緩存命中率。由于join buffer優化,導致被驅動表被多次掃描,就算lru 有young區、old區,熱數據也有被頂掉的風險。所以慎用BLJ,最好在被驅動表上建索引,如果僅臨時操作一次,建索引比較浪費,可以考慮使用臨時表

臨時表

臨時表的特點:每個事務獨立有的,會話結束時自動銷毀,show tables訪問不到;對于同名表和臨時表,臨時表優先級高于同名表;

對于偶爾join大表,可以考慮使用臨時表

選用t1還是t2做驅動表

選按照各自條件過濾完后,數據較少的表做驅動表。

從上面的時間復雜度可以看到:join buffer能裝下,選誰都行;其他情況:N的影響大于M,所以N越小越好

全表掃描性能優化

對sever層的影響

在這里插入圖片描述
圖片來自極客時間 丁奇 MySQL實戰45講

服務端并不需要保存完整的結果集,數據是一段一段傳給客戶端的:

  1. 先取一行寫道net buffer pool中。這個內存的大小由參數net_buffer_length定義,默認16KB
  2. 重復,直至net buffer pool寫慢,調用網絡接口發出去
  3. 成功,就清空net buffer,重復
  4. 直至發送失敗,socket send buffer寫慢了,進入等待;等能寫了再發

對innodb的影響:主要影響緩存命中率

buffer pool結構

在這里插入圖片描述

buffer pool使用lru算法,對最近最少使用的數據進行淘汰。全表掃描會導致短時間內大量冷數據進入buffer pool,影響正常業務的緩存命中率。

針對全表掃描的buffer pool優化

在這里插入圖片描述

  • 若此時訪問P3,由于P3在young區,所以使用之前的lru算法,移動到鏈表首部
  • 若此時要訪問一個不存在在buffer pool的數據頁,依舊淘汰隊尾Pm,但新插入的元素放在old區隊首Px位置(// 先觀察一下)
  • old區的數據,每次訪問前都要做判斷:
    • 在鏈表存在時間超過1s,ok,可以移動到young隊首
    • 沒到1s,位置不變。innodb_old_blocks_time = 1000ms

增加old區,因為全表掃描的冷數據不會變頻繁訪問,所以一般就在old區,對young區正常業務的緩存影響減小。

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/pingmian/88300.shtml
繁體地址,請注明出處:http://hk.pswp.cn/pingmian/88300.shtml
英文地址,請注明出處:http://en.pswp.cn/pingmian/88300.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

【LeetCode100】--- 1.兩數之和【復習回滾】

題目傳送門 解法一&#xff1a;暴力枚舉&#xff08;也是最容易想到的&#xff09; class Solution {public int[] twoSum(int[] nums, int target) {int n nums.length;for(int i 0; i < n; i){for(int j i1; j<n; j){if(nums[i] nums[j] target){return new int…

opencv提取png線段

import cv2 import matplotlib.pyplot as plt import numpy as np# 讀取圖像 image cv2.imread(./data/1.png) if image is None:print("無法讀取圖像文件") else:# 轉換為灰度圖像gray cv2.cvtColor(image, cv2.COLOR_BGR2GRAY)# 使用Canny邊緣檢測edges cv2.Can…

計算機網絡:概述層---計算機網絡概念解析

計算機網絡的概念詳解 &#x1f4c5; 更新時間&#xff1a;2025年07月6日 &#x1f3f7;? 標簽&#xff1a;計算機網絡 | 網絡基礎 | 互聯網 | TCP/IP | 路由器 文章目錄前言一、計算機網絡的發展歷程二、什么是計算機網絡&#xff1f;1. 計算機網絡的基本功能2. 計算機網絡的…

springMVC04-Filter過濾器與攔截器

一、Filter&#xff08;過濾器&#xff09;和 Interceptor&#xff08;攔截器&#xff09;在 SpringMVC 中&#xff0c;Filter&#xff08;過濾器&#xff09;和 Interceptor&#xff08;攔截器&#xff09;都是對請求和響應進行預處理和后處理的重要工具&#xff0c;但它們存在…

STM32第十九天 ESP8266-01S和電腦實現串口通信(2)

1&#xff1a;UDP 傳輸UDP 傳輸不不區分 server 或者 client &#xff0c;由指令 ATCIPSTART 建?立傳輸。 1. 配置 WiFi 模式 ATCWMODE3 // softAPstation mode 響應 : OK 2. 連接路路由器? ATCWJAP"SSID","password" // SSID and password of router 響…

大健康IP如何用合規運營打破“信任危機”|創客匠人

一、行業亂象下的信任裂痕當前大健康領域私域直播亂象頻發&#xff0c;部分機構利用“假專家義診”“限量搶購”等話術&#xff0c;將低成本保健品高價賣給老人&#xff0c;甚至有技術公司提供“全鏈路坑老方案”&#xff0c;加劇行業信任危機。這種短視行為不僅損害消費者權益…

MySQL(122)如何解決慢查詢問題?

解決慢查詢問題通常涉及到多種技術和方法&#xff0c;以確保數據庫查詢的高效性和響應速度。以下是詳細步驟和示例代碼&#xff0c;闡述如何解決慢查詢問題。 一. 慢查詢的常見原因 缺少索引&#xff1a;查詢未使用索引或索引未優化。查詢不當&#xff1a;查詢語句本身書寫不合…

esp32在vscode中仿真調試

此方法可以用在具有usb serial jtag功能的esp32芯片用&#xff0c;支持型號&#xff1a; ESP32-C3 ESP32-S3 ESP32-C6 ESP32-H2 ESP32-C5 USB Serial JTAG功能介紹&#xff1a; 從硬件角度&#xff1a; 它是ESP32芯片內置的硬件功能 不是一個獨立的物理接口 是通過USB接口實…

藍橋云課 矩形切割-Java

目錄 題目鏈接 題目 解題思路 代碼 題目鏈接 競賽中心 - 藍橋云課 題目 解題思路 找最大的正方形就是大邊-n個小邊&#xff0c;直至相等或者小于1 代碼 import java.util.Scanner; // 1:無需package // 2: 類名必須Main, 不可修改public class Main {public static voi…

PostgreSQL 鎖等待監控,查找等待中的鎖

直接貼SQLWITH RECURSIVE l AS (SELECT pid, locktype, mode, granted, ROW(locktype,database,relation,page,tuple,virtualxid,transactionid,classid,objid,objsubid) objFROM pg_locks ), pairs AS (SELECT w.pid waiter, l.pid locker, l.obj, l.modeFROM l wJOIN l ON l.…

Elasticsearch 字符串包含子字符串:高級查詢技巧

作者&#xff1a;來自 Elastic Justin Castilla 想要獲得 Elastic 認證&#xff1f;看看下一次 Elasticsearch Engineer 培訓什么時候開始吧&#xff01; Elasticsearch 擁有大量新功能&#xff0c;可以幫助你為你的使用場景構建最佳的搜索解決方案。深入了解我們的示例 noteb…

Vue、Laravel 項目初始化命令對比 / curl 命令/ CORS 機制總結與案例

前言一個疑問衍生出另一個疑問再衍生出又一個疑問&#xff0c;于是有了這篇文章。一、Vue 項目初始化命令 基于 Vite 創建 Vue 項目 命令&#xff1a;npm create vitelatest my-project -- --template vue適用場景&#xff1a;需輕量級、高速開發環境關鍵點&#xff1a;使用 Vi…

Jenkins 流水線配置

Jenkinsfile dsl文件:pipeline {// 指定任務在哪個集群節點執行agent any// 聲明全局變量environment {keyvalueAPPLICATION_NAMEspringboot-demo // 項目名稱HOST_PORT7777 // 宿主機暴露服務端口CONTAINER_PORT8080 // 容器內部服務端口…

服務器重裝后如何“復活”舊硬盤上的 Anaconda 環境?—— 一次完整的排錯與恢復記錄

目錄 摘要 一、 背景&#xff1a;熟悉的陌生人 二、 問題浮現&#xff1a;一次次失敗的嘗試 問題一&#xff1a;source activate 失效&#xff0c;被寫死的舊路徑 問題二&#xff1a;官方安裝器修復失敗&#xff0c;神秘的“進程池損壞” 問題三&#xff1a;核心腳本也“背…

Redis的多并發實際業務場景下的使用分析:布隆過濾器

文章目錄前言什么是布隆過濾器項目中引入布隆過濾器與緩存結合的最佳實踐場景&#xff1a;高并發用戶訪問商品詳情頁&#xff08;防止緩存穿透&#xff09;總結&#xff1a;前言 okok 我們已經學完了 所有的redis中的常用的數據結構 下面就是進階 我會用一系列的例子 去講解 如…

【AI】人工智能領域關鍵術語全解析

一、前言 人工智能&#xff08;AI&#xff09;作為當今最熱門的技術領域之一&#xff0c;正在深刻改變著我們的生活和工作方式。然而&#xff0c;對于初學者或非技術背景的人士來說&#xff0c;理解AI領域的專業術語可能是一項挑戰。本文旨在全面解析人工智能領域的關鍵術語&a…

【Linux基礎知識系列】第四十三篇 - 基礎正則表達式與 grep/sed

在Linux系統中&#xff0c;正則表達式是一種強大的文本處理工具&#xff0c;廣泛用于文本搜索、替換和批量處理。通過掌握基礎正則表達式的語法&#xff0c;結合grep和sed命令&#xff0c;用戶可以高效地完成復雜的文本處理任務。無論是數據分析師、軟件開發者還是系統管理員&a…

SIMATIC S7-1200的以太網通信能力:協議與資源詳細解析

SIMATIC S7-1200的以太網通信能力&#xff1a;協議與資源解析 在工業自動化領域&#xff0c;PLC的通信能力往往直接影響著整個控制系統的靈活性與高效性。西門子SIMATIC S7-1200系列PLC作為一款廣泛應用的中小型控制器&#xff0c;其強大的以太網通信功能是其核心優勢之一。本文…

什么是高防 IP?從技術原理到實戰部署的深度解析

目錄 前言 一、高防 IP 的定義與核心價值 二、高防 IP 的技術原理與架構 2.1 流量牽引技術 2.2 流量清洗引擎 2.3 回源機制 三、高防 IP 的核心防護技術詳解 3.1 DDoS 攻擊防御技術 3.2 高防 IP 的彈性帶寬設計 四、實戰&#xff1a;基于 Linux 的高防 IP 環境配置 …

NW710NW713美光固態閃存NW719NW720

美光NW系列固態閃存深度解析&#xff1a;技術、性能與市場洞察一、技術架構與核心創新美光NW系列固態閃存&#xff08;包括NW710、NW713、NW719、NW720&#xff09;的技術根基源于其先進的G9 NAND架構。該架構通過5納米制程工藝和多層3D堆疊技術&#xff0c;在單位面積內實現了…