FlinkSql hint之狀態生命周期 state_ttl

狀態生命周期hint

FlinkSQL?的?state ttl(Time-To-Live,生存時間)是一個用于管理狀態數據生命周期的機制。在 Flink 流處理中,狀態是一個重要的概念,它允許跨時間窗口或事件時間處理的狀態化操作。然而,隨著時間的推移,這些狀態數據可能會變得不再相關或過時。為了有效地管理這些狀態并避免無限期地保留它們,Flink 引入了?state ttl?機制。

state ttl?允許你為狀態設置一個生存時間。一旦狀態數據的生存時間超過了指定的 TTL 值,Flink 就會自動清理這些狀態。這有助于減少不必要的狀態數據占用,提高系統的穩定性和性能。

對于有狀態計算的流連接和分組聚合操作,用戶可以通過?STATE_TTL?來指定算子粒度的空閑狀態維持時間,該方式能夠使得在上述狀態算子中使用與作業級別?table.exec.state.ttl?不同的值。

流連接示例?#?
CREATE TABLE my_table (  ...  
) WITH (  'connector' = '...',  'scan.startup.mode' = 'latest-offset',  'state.ttl' = '3h'  -- 設置狀態生存時間為3小時  
);

在上面的例子中,state.ttl?被設置為?3h,意味著任何狀態數據的生存時間超過 3 小時后都會被自動清理。

更多例子:

CREATE TABLE orders (o_orderkey INT,o_custkey INT,o_status BOOLEAN,o_totalprice DOUBLE
) WITH (...);CREATE TABLE lineitem (l_linenumber int,l_orderkey int,l_partkey int,l_extendedprice double
) WITH (...);CREATE TABLE customers (c_custkey int,c_address string
) WITH (...);-- 表名作為 hint 鍵
SELECT /*+ STATE_TTL('orders'='3d', 'lineitem'='1d') */ * FROM
orders LEFT JOIN lineitem
ON orders.o_orderkey = lineitem.l_orderkey;-- 別名作為 hint 鍵
SELECT /*+ STATE_TTL('o'='3d', 'l'='1d') */ * FROM
orders o LEFT JOIN lineitem l
ON o.o_orderkey = l.l_orderkey;-- 臨時視圖作為 hint 鍵
CREATE TEMPORARY VIEW left_input AS SELECT ... FROM orders WHERE ...;
CREATE TEMPORARY VIEW right_input AS SELECT ... FROM lineitem WHERE ...;
SELECT /*+ STATE_TTL('left_input'= '360000s', 'right_input' = '15h') */ * 
FROM left_input JOIN right_input
ON left_input.join_key = right_input.join_key;-- 級聯 join
SELECT /*+ STATE_TTL('o' = '3d', 'l' = '1d', 'c' = '10d') */ *
FROM orders o LEFT OUTER JOIN lineitem l
ON o.o_orderkey = l.l_orderkey
LEFT OUTER JOIN customers c
ON o.o_custkey = c.c_custkey;
分組聚合示例?#?
-- 表名作為 hint 鍵
SELECT /*+ STATE_TTL('orders' = '1d') */ o_orderkey, SUM(o_totalprice) AS revenue
FROM orders
GROUP BY o_orderkey;-- 別名作為 hint 鍵
SELECT /*+ STATE_TTL('o' = '1d') */ o_orderkey, SUM(o_totalprice) AS revenue
FROM orders AS o
GROUP BY o_orderkey;-- 查詢塊作為 hint 鍵
SELECT /*+ STATE_TTL('tmp' = '1d') */ o_orderkey, SUM(o_totalprice) AS revenue
FROM (SELECT o_orderkey, o_totalpriceFROM ordersWHERE o_shippriority = 0) tmp
GROUP BY o_orderkey;

注意:

  • 用戶既可以選擇表(或視圖)名也可以選擇別名作為提示鍵,但在指定別名時需要使用別名。
  • 對于多流連接場景,直接指定每張表的生命周期只會在第一個連接算子的左右流和第二個連接算子的右流上生效(因為流上關聯操作是二元的)。如果想為每個連接算子的左右流都指定不同生命周期,需要將查詢拆成多個查詢塊,如下所示。
    CREATE TEMPORARY VIEW V AS 
    SELECT /*+ STATE_TTL('A' = '1d', 'B' = '12h')*/ * FROM A JOIN B ON...;
    SELECT /*+ STATE_TTL('V' = '1d', 'C' = '3d')*/ * FROM V JOIN C ON ...;
    
  • STATE_TTL?提示僅作用在當前查詢塊上。
  • 當?STATE_TTL?提示鍵重復時取最后一個值。舉例來說,在出現?SELECT /*+ STATE_TTL('A' = '1d', 'A' = '2d')*/ * FROM ...?時,輸入 A 的 TTL 值將會取 2d。
  • 當出現多個?STATE_TTL?且提示鍵重復時取第一個值。舉例來說,在出現?SELECT /*+ STATE_TTL('A' = '1d', 'B' = '2d'), STATE_TTL('C' = '12h', 'A' = '6h')*/ * FROM ...?時,輸入 A 的 TTL 值將會取 1d。

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/714959.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/714959.shtml
英文地址,請注明出處:http://en.pswp.cn/news/714959.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

分治法(Divide and Conquer)

目錄 1.定義 2.例子 3.注意 1.定義 分治法(Divide and Conquer)是一種解決問題的算法設計策略,它將一個大問題分解成若干個規模較小且結構與原問題相似的子問題,然后遞歸地解決這些子問題,最后將子問題的解合并起來…

Dockerfile 語法教程

Dockerfile 語法教程 文章目錄 Dockerfile 語法教程Dockerfile 語法教程基礎概念Dockerfile 簡介鏡像、容器、倉庫的概念 Dockerfile 基本語法 Dockerfile 基本語法Dockerfile 的基本結構注釋的使用指令的格式指令的執行順序 Dockerfile 常用指令FROM 指令RUN 指令CMD 指令ENTR…

鴻蒙崗位需求突增!移動端、PC端、IoT到底該怎么選?

“2024年是原生鴻蒙的關鍵一年,我們要加快推進各類鴻蒙原生應用的開發,集中打贏技術底座和三方生態兩大最艱巨的戰斗。”這是余承東在新年信中表達的決心。 隨后在1月18日舉行的鴻蒙生態千帆啟航儀式上,華為宣布 HarmonyOS NEXT 鴻蒙星河版系…

當開發人員無法解決問題時,測試人員應該如何與他們溝通?

當開發人員無法解決問題時,測試人員可以采取以下方式進行溝通: 保持耐心和理解:意識到解決問題可能需要時間和努力,避免對開發人員施加過度壓力。提供更多信息和細節:檢查是否有其他相關信息或細節可以提供給開發人員…

Codeforces Round 929 (Div. 3)---->E. Turtle vs. Rabbit Race: Optimal Trainings

一,思路: 1,做這題如果對二分敏感的話,看完題目就大概很容易想到,通過二分來找到一個 r ,使得 [ l, r] 之間的和最接近 u (因為這樣才是 Isaac 所能獲得的最大提升)。 2,還有一個特殊情況,結合…

MobiLlama: Towards Accurate and Lightweight Fully Transparent GPT

論文的主要目的是設計一個準確且高效的小型語言模型(SLM),以滿足資源受限設備的需求。以下是根據論文內容整理的要點: 背景與挑戰: 大型語言模型(LLMs)在處理復雜任務時表現出色,但它…

Linux下進程相關概念詳解

目錄 一、操作系統 概念 設計操作系統的目的 定位 如何理解“管理” 系統調用和庫函數概念 二、進程 概念 描述進程—PCB(process control block) 查看進程 進程狀態 進程優先級 三、其它的進程概念 一、操作系統 概念 任何計算機系統都包…

【Easyx】easyx從入門到精通 — 初步入門

easyx 初步入門 1 安裝easyx圖形庫2 如何使用Easyx3 效果初試4 基本圖形繪制4.1 繪制點4.2 繪制直線4.3 繪制圓形4.4 繪制矩形4.5 繪制橢圓4.6 繪制圓角矩形4.7 繪制扇形 Thanks?(・ω・)ノ謝謝閱讀!!!下一篇…

Java學習—字符流

在 Java 中,字符流主要用于處理字符數據,比如文本文件。字符流直接以字符為單位進行讀寫操作,自動處理字符與底層字節之間的轉換,因此非常適合處理包含文本數據的文件。Java 中處理字符流的核心抽象類是 Reader 和 Writer。 Read…

C#面:是否可以從一個 static 方法內部發出對非 static 方法的調用

不可以; 不能直接從一個靜態方法內部調用非靜態方法。 這是因為靜態方法是屬于類的,而非靜態方法是屬于類的實例的。 靜態方法可以在沒有創建類的實例的情況下被調用,而非靜態方法需要通過類的實例來調用。 如果想要從靜態方法內部調用非…

算法入門-二分搜索(長期更新)

文章目錄 情景一 : 二分查找情景二 : 找出一個 > num 的最左側的位置情景三 : 找出一個 < num 的最右側的位置leetcode 162 :尋找峰值leetcode 69 : x 的平方根 首先來簡介一下二分搜索算法,二分搜索是一種每次砍半的算法,最經典的案例當然是我們的二分查找算法,但是大部…

【JAVA重要知識 | 第一篇】一篇文章讀懂HashMap(存儲、擴容、初始化過程)

文章目錄 1.一篇文章讀懂HashMap&#xff08;存儲、擴容、初始化過程&#xff09;1.1HashMap簡介1.1.1特點1.1.2優點1.1.3缺點 1.2深入解讀HashMap1.2.1常用常量和變量&#xff08;1&#xff09;常用常量&#xff08;2&#xff09;常用變量 1.2.2存儲過程&#xff08;1&#xf…

診所門診電子處方軟件操作教程及試用版下載,醫務室處方箋管理系統模板教程

診所門診電子處方軟件操作教程及試用版下載&#xff0c;醫務室處方箋管理系統模板教程 一、前言 以下軟件程序教程以 佳易王診所電子處方軟件V17.0為例說明 軟件文件下載可以點擊最下方官網卡片——軟件下載——試用版軟件下載 如上圖&#xff0c;點擊基本信息設置——處方配…

Acwing---1208. 翻硬幣

翻硬幣 1.題目2.基本思想3.代碼實現 1.題目 小明正在玩一個“翻硬幣”的游戲。 桌上放著排成一排的若干硬幣。我們用 * 表示正面&#xff0c;用 o 表示反&#xff08;是小寫字母&#xff0c;不是零&#xff09;。 比如&#xff0c;可能情形是&#xff1a;**oo***oooo 如果同…

Python編程小案例—利用flask查詢本機IP歸屬并輸出網頁圖片

Python編程小案例—利用flask查詢本機IP歸屬并輸出網頁圖片 環境&#xff1a;Pycharm Mac OS 源碼如下&#xff1a; from flask import Flask, render_template, requestapp Flask(__name__)app.route(/) def index():return render_template(IP查詢.html)if __name__ __…

文心一言 Python編程之

給一個包含n個整數的數組nums&#xff0c;判斷nums中是否存在三個元素a,b,c&#xff0c;使得abc0?請你找出所有和為0且不重復的三元組。 注意&#xff1a;答案中不可以包含重復的三元組。 示例1&#xff1a; 輸入&#xff1a;nums[-1,0,1,2,-1,-4] 輸出&#xff1a;[[-1,-1,2…

中介者模式

定義&#xff1a;中介者模式&#xff08;Mediator Pattern&#xff09;又稱為調節者模式或調停者模式。用一個中介對象封裝一系列的對象交互&#xff0c;中介者使各對象不需要顯式的相互作用&#xff0c;從而使其耦合松散&#xff0c;而且可以獨立地改變它們之間的交互。 適用…

如何正確選擇一臺大路燈?2024五大出眾品牌大路燈推薦,附超全科普知識整理

大路燈的使用操作非常簡便&#xff0c;而且能夠提供最適合目前用眼的光線環境。但如今市場中卻有一些劣質大路燈&#xff0c;它們的使用體驗不佳&#xff0c;很多客戶反饋說可能會出現光線不穩定、刺眼等問題&#xff0c;甚至會有讓用戶有損傷視力的風險。那么如何選擇一臺大路…

華碩ROG玩家國度幻16air 2024原裝系統恢復安裝教程方法

華碩ROG玩家國度幻16air 2024原裝系統恢復安裝教程方法 重建ASUSRECOVERY恢復功能 支持型號&#xff1a; GU605MI&#xff0c;GU605MY&#xff0c;GU605MZ GU605MV&#xff0c;GU605MU 分3種安裝方法 遠程恢復安裝&#xff1a;https://pan.baidu.com/s/166gtt2okmMmuPUL1…