Springboot 配置 doris 連接
一. 使用 druid 連接池
因為 Doris 的前端(FE)兼容了 MySQL 協議,可以像連 MySQL 一樣連 Doris。這是 Doris 的一個核心設計特性,目的是方便接入、簡化生態兼容。
首先需要引入 pom 依賴:
<dependency><groupId>com.alibaba</groupId><artifactId>druid-spring-boot-starter</artifactId><version>1.2.8</version></dependency><dependency><groupId>mysql</groupId><artifactId>mysql-connector-java</artifactId><version>8.0.20</version></dependency><dependency><groupId>org.mybatis.spring.boot</groupId><artifactId>mybatis-spring-boot-starter</artifactId><version>2.2.1</version></dependency>
在springboot 的yml文件中配置:
spring:datasource:url: jdbc:mysql://192.168.1.111:9030/database_test?serverTimezone=Asia/Shanghai&useUnicode=true&characterEncoding=utf-8&useSSL=false&allowMultiQueries=true&autoReconnect=true&failOverReadOnly=false&maxReconnects=3username: rootpassword: 123456driver-class-name: com.mysql.cj.jdbc.Drivertype: com.alibaba.druid.pool.DruidDataSourcedruid:initial-size: 20 # 初始化時預創建的連接數min-idle: 20 #最低 保持空閑的連接數max-active: 200 # 最大連接池數量max-wait: 30000 # 連接池最大允許等待的時間(單位:毫秒)validation-query: SELECT 1 # 驗證連接是否有效test-while-idle: true # 在連接池空閑時是否驗證連接的有效性test-on-borrow: true # 在從連接池中借用連接時是否驗證連接的有效性test-on-return: false # 在連接被歸還到連接池時是否驗證連接的有效性time-between-eviction-runs-millis: 30000 # 空閑連接回收的頻率(多久進行一次檢查),單位為毫秒min-evictable-idle-time-millis: 300000 # 空閑超過多長時間后在下次檢查時會被回收,單位為毫秒max-evictable-idle-time-millis: 600000 # 最大空閑時間的上限, 超過被強制回收keep-alive: true # 主動保活連接,避免網絡層斷鏈phy-timeout-millis: 1800000 # 物理連接的 最大空閑時間,單位是毫秒。remove-abandoned: true # 指定時間內沒有被正常釋放(例如沒有及時關閉),連接池會主動回收這個連接。remove-abandoned-timeout: 300 # 連接被視為廢棄的超時時間,單位為秒。
二.多數據源配置 doris 連接
有的時候我們需要連接多數據源, 比如要同時連接 mysql 和 doris, 這時候我們就要進行一些額外的配置。
1.配置文件配置
spring:datasource:mysql: # mysql 配置url: jdbc:mysql://192.168.1.111:3306/mysql_database_test?serverTimezone=Asia/Shanghai&useUnicode=true&characterEncoding=utf-8&useSSL=false&allowMultiQueries=trueusername: rootpassword: 654321driver-class-name: com.mysql.cj.jdbc.Drivertype: com.alibaba.druid.pool.DruidDataSourcedruid:validation-query: SELECT 1max-active: 10min-idle: 2initial-size: 2doris: # doris配置url: jdbc:mysql://192.168.1.111:9030/database_test?serverTimezone=Asia/Shanghai&useUnicode=true&characterEncoding=utf-8&useSSL=false&allowMultiQueries=true&autoReconnect=true&failOverReadOnly=false&maxReconnects=3username: rootpassword: 123456driver-class-name: com.mysql.cj.jdbc.Drivertype: com.alibaba.druid.pool.DruidDataSourcedruid:initial-size: 20 # 初始化時預創建的連接數min-idle: 20 #最低 保持空閑的連接數max-active: 200 # 最大連接池數量max-wait: 30000 # 連接池最大允許等待的時間(單位:毫秒)validation-query: SELECT 1 # 驗證連接是否有效test-while-idle: true # 在連接池空閑時是否驗證連接的有效性test-on-borrow: true # 在從連接池中借用連接時是否驗證連接的有效性test-on-return: false # 在連接被歸還到連接池時是否驗證連接的有效性time-between-eviction-runs-millis: 30000 # 空閑連接回收的頻率(多久進行一次檢查),單位為毫秒min-evictable-idle-time-millis: 300000 # 空閑超過多長時間后在下次檢查時會被回收,單位為毫秒max-evictable-idle-time-millis: 600000 # 最大空閑時間的上限, 超過被強制回收keep-alive: true # 主動保活連接,避免網絡層斷鏈phy-timeout-millis: 1800000 # 物理連接的 最大空閑時間,單位是毫秒。remove-abandoned: true # 指定時間內沒有被正常釋放(例如沒有及時關閉),連接池會主動回收這個連接。remove-abandoned-timeout: 300 # 連接被視為廢棄的超時時間,單位為秒。
spring.datasource下的 mysql 和 doris可以自己自定義, 因為不管用什么名字, 我們能需在java中進行數據庫數據源配置。
2.doris 數據庫數據源配置:
import org.apache.ibatis.session.SqlSessionFactory;
import org.mybatis.spring.SqlSessionFactoryBean;
import org.mybatis.spring.SqlSessionTemplate;
import org.mybatis.spring.annotation.MapperScan;
import org.springframework.beans.factory.annotation.Qualifier;
import org.springframework.boot.context.properties.ConfigurationProperties;
import org.springframework.boot.jdbc.DataSourceBuilder;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import org.springframework.core.io.support.PathMatchingResourcePatternResolver;import javax.sql.DataSource;/*** doris 數據庫數據源配置* 指定要掃描的 Mapper 接口包路徑(Doris用)* 指定對應的 SqlSessionFactory Bean 名稱* @author HY* @date 2025-06-23*/
@Configuration
@MapperScan(basePackages = "com.ashen.test.mapper.doris" , sqlSessionFactoryRef = "dorisSqlSessionFactory")
public class DorisConfig {/*** mybatis xml 文件位置*/private static final String MYBATIS_LOCATION = "classpath*:mybatis/doris/*.xml";/*** 實體類文件位置*/private static final String TYPE_ALIASES_PACKAGE = "com.ashen.test.common.model.entity.doris.*";/*** 創建 Doris 數據源 Bean,注入名稱為 "dorisDataSource"* @return*/@Bean("dorisDataSource")@ConfigurationProperties(prefix = "spring.datasource.doris")public DataSource getDb1DataSource(){// 構建數據源對象(默認用的是 HikariDataSource, 這個需要注意)// return DataSourceBuilder.create().build();return new com.alibaba.druid.pool.DruidDataSource();}/*** 創建 SqlSessionFactory Bean,供 MyBatis 使用,注入名為 "dorisSqlSessionFactory"* @param dataSource 注入上面定義的 Doris 數據源* @return* @throws Exception*/@Bean("dorisSqlSessionFactory")public SqlSessionFactory dorisSqlSessionFactory(@Qualifier("dorisDataSource") DataSource dataSource) throws Exception {// 創建工廠 BeanSqlSessionFactoryBean bean = new SqlSessionFactoryBean();// 設置數據源bean.setDataSource(dataSource);// 加載 Mybatis XML 文件bean.setMapperLocations(new PathMatchingResourcePatternResolver().getResources(MYBATIS_LOCATION));// 設置實體類包路徑,用于簡化 XML 中類型的全路徑書寫bean.setTypeAliasesPackage(TYPE_ALIASES_PACKAGE);// 獲取 SqlSessionFactory 實例return bean.getObject();}/*** 創建 SqlSessionTemplate Bean(線程安全的 SqlSession 封裝)* 用于執行 SQL、提交/回滾事務等* @param sqlSessionFactory* @return*/@Bean("dorisSqlSessionTemplate")public SqlSessionTemplate dorisSqlSessionTemplate(@Qualifier("dorisSqlSessionFactory") SqlSessionFactory sqlSessionFactory){// 創建并返回模板實例return new SqlSessionTemplate(sqlSessionFactory);}}
3.msyql 數據庫數據源配置:
import org.apache.ibatis.session.SqlSessionFactory;
import org.mybatis.spring.SqlSessionFactoryBean;
import org.mybatis.spring.SqlSessionTemplate;
import org.mybatis.spring.annotation.MapperScan;
import org.springframework.beans.factory.annotation.Qualifier;
import org.springframework.boot.context.properties.ConfigurationProperties;
import org.springframework.boot.jdbc.DataSourceBuilder;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import org.springframework.context.annotation.Primary;
import org.springframework.core.io.support.PathMatchingResourcePatternResolver;import javax.sql.DataSource;/*** mysql 數據庫數據源配置* 指定要掃描的 Mapper 接口包路徑(Mysql 用)* 指定對應的 SqlSessionFactory Bean 名稱* @author HY* @date 2025-06-23*/
@Configuration
@MapperScan(basePackages = "com.ashen.test.mapper.mysql", sqlSessionFactoryRef = "mysqlSqlSessionFactory")
public class MysqlConfig {/*** mybatis xml 文件位置*/private static final String MYBATIS_LOCATION = "classpath*:mybatis/mysql/*.xml";/*** 實體類文件位置*/private static final String TYPE_ALIASES_PACKAGE = "com.ashen.test.common.model.entity.mysql.*";/*** 創建 MySQL 數據源對象* 被 @Primary 標記為主數據源,默認注入優先使用這個* 從 application.yml 讀取以 spring.datasource.mysql 為前綴的屬性進行綁定*/@Primary@Bean(name="mysqlDataSource")@ConfigurationProperties(prefix = "spring.datasource.mysql")public DataSource mysqlDataSource() {// 使用 DataSourceBuilder 構建數據源,支持 HikariCP、Druid 等(取決于依賴)
// return DataSourceBuilder.create().build();return new com.alibaba.druid.pool.DruidDataSource();}/*** 創建 MySQL 對應的 SqlSessionFactory,供 MyBatis 使用* 指定數據源、Mapper XML 文件路徑、實體別名路徑* @param dataSource 注入 mysqlDataSource*/@Primary@Bean("mysqlSqlSessionFactory")public SqlSessionFactory mysqlSqlSessionFactory(@Qualifier("mysqlDataSource") DataSource dataSource) throws Exception {// 創建 SqlSessionFactoryBean(MyBatis 與 Spring 整合的橋梁)SqlSessionFactoryBean bean = new SqlSessionFactoryBean();// 設置數據源bean.setDataSource(dataSource);// 指定 MyBatis 的 mapper XML 文件路徑(如果不配會找不到 SQL 映射)bean.setMapperLocations(new PathMatchingResourcePatternResolver().getResources(MYBATIS_LOCATION));// 設置實體類所在包,用于自動生成別名bean.setTypeAliasesPackage(TYPE_ALIASES_PACKAGE);// 返回 SqlSessionFactory 實例return bean.getObject();}/*** 創建 MyBatis 的 SqlSessionTemplate(線程安全、Spring 管理的 SqlSession)* 用于執行 SQL 操作、事務管理等* @param sqlSessionFactory 注入上一步創建的 SqlSessionFactory*/@Primary@Bean("mysqlSqlSessionTemplate")public SqlSessionTemplate mysqlSqlSessionTemplate(@Qualifier("mysqlSqlSessionFactory") SqlSessionFactory sqlSessionFactory){// 用工廠創建出模板return new SqlSessionTemplate(sqlSessionFactory);}
}
注: 這里有個坑, 就是在 mysqlDataSource() 方法中, 必須顯示的返回 。
return new com.alibaba.druid.pool.DruidDataSource();
如果采用:
return DataSourceBuilder.create().build();
最終將默認采用 Spring Boot 內建的 Hikari 數據源模塊。
三.druid 狀態監控
import com.alibaba.druid.pool.DruidDataSource;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.context.annotation.Lazy;
import org.springframework.scheduling.annotation.Scheduled;
import org.springframework.stereotype.Component;@Component
public class DruidMonitor {@Lazy@Autowiredprivate DruidDataSource dataSource;// 每1分鐘輸出一次連接池的狀態@Scheduled(fixedRate = 600000)public void printDruidStats() {System.out.println("活躍連接數 : " + dataSource.getActiveCount());System.out.println("空閑連接數 : " + dataSource.getPoolingCount());System.out.println("最大允許的活躍連接數 : " + dataSource.getMaxActive());System.out.println("連接池中獲取連接的最大等待時間 : " + dataSource.getMaxWait());System.out.println("連接池創建過的連接總數 : " + dataSource.getCreateCount());System.out.println("已經關閉的連接總數 : " + dataSource.getCloseCount());System.out.println("===================================");}
}
四. 連接超時問題
空閑連接超時后, 會被連接池回收, 當再次使用該連接的時候, 會報連接已關閉的錯誤, 這種情況并不常見, 但是有時候又會突然出現, 讓我們以為是配置上有問題。
例如:
當我們遇到需要從socket或者消息隊列中持續取數據時, 經常會在 while(true) 中接收消息并插入數據庫, 如果我們將 @Transactional 放在 while(true) 之上的方法上, 那么整個事務周期內都將使用同一個 durid 連接, 如果長時間未從遠程消息隊列或者socket中獲取到數據, 那么該連接就會被回收, 當再次來到數據并寫庫時, 就會報連接已關閉的錯誤。
@Transactional(readOnly = false, rollbackFor = Exception.class)public void insert() {....while(true){testMapper.insert(param);}}
因此要注意: 不要將 @Transactional 加到需要長時間運行的方法之上。
而是將插入方法脫離出去, 如下:
public void insert() {....while(true){testMapper.insertData(param);}}@Transactional(readOnly = false, rollbackFor = Exception.class)public void insertData() {testMapper.insert(param);}