DataX及Datax-web雜記

👽個人博客:https://everspring.github.io/
👽公眾號:愛歷史的IT男

一. DataX調試

DataX之前調試不是很方便,要打包后才能調試。23年7月后一位叫"FuYouJ "的開源者提交了datax-example模塊,就方便了很多。下面說下簡要使用方法
1.把配置好的reader/writer的json文件放到datax-example-streamreaderresource目錄下
2.把用到的reader、writer的依賴包配置到datax-example-streamreaderpom.xml
在這里插入圖片描述
3.把datax-example-core下面core.json配置中的transport.channel.speed.byte改成大于-1,原因就是避免運行時出現異常[DataX引擎配置錯誤,該問題通常是由于DataX安裝錯誤引起,請聯系您的運維解決 .]. - 在有總bps限速條件下,單個channel的bps值不能為空,也不能為非正數
4.StreamReader2StreamWriterTest.java中把path的值改一下,注意是/開頭,默認對應的就是第1步中resource路徑
5.運行即可

二. Datax-web運行

之前的python環境是直接安裝的,后面改成了conda安裝后,用Datax-web執行時提示ReturnT:ReturnT [code=500, msg=command exit value(9009) is failed, content=null],就是python的命令找不到。除了重裝python環境外,還可以手動指定python.exe路徑
在datax-executor模塊中,將ExecutorJobHandler類的 buildDataXExecutorCmd方法中
cmdArr.add("python"); 改為 cmdArr.add("python.exe的路徑");

三.其他問題

  1. datax-web執行datax是通過datax.py實現的。在使用數據源是oracle的時候,遇到了夏令時問題,比如數據類型是date,查詢出來后時間會大1小時,如1947-04-15 00:00:00,1946-05-15 00:00:00,1949-05-01 00:00:00查詢出來是1947-04-15 01:00:00,1946-05-15 01:00:00,1949-05-01 01:00:00。這個時候需要指定時區,但在datax的配置文件中不能在jdbcUrl中指定timezone,"jdbc:oracle:thin:@//127.0.0.1:1521/test?timezone=GMT+8"這種常用的指定方法會導致啟動失敗。所以需要在jvm參數中指定。在datax指定時區方式如下
    datax/bin/datax.py里面DEFAULT_PROPERTY_CONF的值-Dfile.encoding=UTF-8后面加一段-Duser.timezone=GMT+8
    在這里插入圖片描述

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/715045.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/715045.shtml
英文地址,請注明出處:http://en.pswp.cn/news/715045.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

ChatGPT 4.0:革新文獻檢索與推薦體驗

ChatGPT 4.0:革新文獻檢索與推薦體驗 隨著信息時代的到來,學術文獻的數量急劇增加,如何快速而準確地檢索到所需的文獻,以及發現潛在有價值的研究,成為了學術界的一大挑戰。ChatGPT 4.0作為最新一代的自然語言處理模型…

EasyRecovery2024國產免費的手機數據恢復軟件

一、功能介紹 EasyRecovery手機數據恢復軟件是一款功能全面的數據恢復工具,專為移動設備設計。其主要功能包括: 文件恢復:能夠恢復手機中因各種原因丟失的文件,如照片、視頻、音頻、文檔等。深度掃描:通過深度掃描手…

【數據結構】實現棧

大家好,我是蘇貝,本篇博客帶大家了解棧,如果你覺得我寫的還不錯的話,可以給我一個贊👍嗎,感謝?? 目錄 一 .棧的概念及結構二 .棧的實現棧的結構體初始化銷毀棧頂插入棧頂刪除顯示棧頂元素是否為空棧的大…

USB - Linux Kernel Menuconfig

Linux kernel,make menuconfig,和USB相關的,在主菜單選擇Device Drivers。 Device Drivers下面,找到USB support。 在USB support下面,就可以對USB相關的item進行設置。 按照從上到下的順序,打開的設置依次…

【大數據】-- dataworks 創建odps 的 hudi 外表

文檔:創建OSS外部表_云原生大數據計算服務 MaxCompute(MaxCompute)-阿里云幫助中心 舉例:創建 odps 的 hudi 外表 CREATE EXTERNAL TABLE IF NOT EXISTS my_project.ods_hudi_mysql_words_h_all (id BIGINT COMMENT 主鍵id,`words` STRING COMMENT 詞…

【C++入門】缺省參數 | 函數重載

目錄 4.缺省參數 4.1缺省參數的概念 4.2缺省參數分類 4.3聲明和定義分離(聲明使用缺省參數) 4.🐍聲明和定義分離到鏈接 5.函數重載 5.1函數重載的概念 5.2可執行程序的形成步驟 5.3C支持函數重載的原理—名字修飾(name Mangling) 4.…

Linux學習之信號

目錄 1.信號的概念 2.信號的產生 3.信號的保存 4.信號的捕捉 信號的其它內容: SIGCHLD信號 1.信號的概念 在Linux中,信號是一種用于進程之間通信的基本機制。它是一種異步事件通知,用于通知進程發生了某些事件。如下是一些常見的Linux信…

[計算機網絡]--五種IO模型和select

前言 作者:小蝸牛向前沖 名言:我可以接受失敗,但我不能接受放棄 如果覺的博主的文章還不錯的話,還請點贊,收藏,關注👀支持博主。如果發現有問題的地方歡迎?大家在評論區指正 目錄 一、五種IO…

線性規劃問題的高斯消元法

線性規劃的算法和解方程組的方法很像,常用的方程組的解法叫做高斯消元法,對于高斯消元法的基本流程,現給定一組線性方程: 添加圖片注釋,不超過 140 字(可選) 對于給定的線性方程組,目的是將方程組中同時能夠滿足三個等式的變量x,y,z求解出來,對于高斯消元法的基本過程…

【精通Spring】基于注解管理Bean

個人名片: 🐼作者簡介:一名大三在校生,喜歡AI編程🎋 🐻???個人主頁🥇:落798. 🐼個人WeChat:hmmwx53 🕊?系列專欄:🖼?…

集智書童 | YOLO+混合注意力機制 | YOLOv5再加4.3%才可以做對手,Transformer混合設計依舊可以卷

本文來源公眾號“集智書童”,侵權刪,干貨滿滿。YOLOv5重出江湖! 原文鏈接:https://mp.weixin.qq.com/s/vb7HsA0fKDgRc3uC8Z-2yw 在工業生產過程中,由于低效率、不統一的評估、高成本以及缺乏實時數據,傳統…

LeetCode //C - 32. Longest Valid Parentheses

32. Longest Valid Parentheses Given a string containing just the characters ‘(’ and ‘)’, return the length of the longest valid (well-formed) parentheses substring. Example 1: Input: s “(()” Output: 2 Explanation: The longest valid parentheses s…

【刷題1】LeetCode 994. 腐爛的橘子 java題解

tag:圖論 廣度優先搜索 https://leetcode.cn/problems/rotting-oranges/description/?envTypestudy-plan-v2&envIdtop-100-liked 使用廣度優先搜索,搜索步數就是分鐘數,等到所有橘子都腐爛后,各個橘子腐爛的最長分鐘數就是全部都爛的最小…

C語言-指針(上)

提示:文章寫完后,目錄可以自動生成,如何生成可參考右邊的幫助文檔 文章目錄 前言一、pandas是什么?二、使用步驟 1.引入庫2.讀入數據總結 前言 本篇文章將為大家介紹C語言中的核心內容-指針,指針在C語言的中知識內容比…

【文件管理】關于上傳下載文件的設計

這里主要談論的是產品設計里面的文件管理,比如文件的上傳交互及背后影響到的前后端設計。 上傳文件 場景:一條記錄,比如個人信息,有姓名,出生年月,性別等一般的字段,還可以允許用戶上傳附件作為…

Java 小項目開發日記 04(文章接口的開發、oss圖片上傳)

Java 小項目開發日記 04&#xff08;文章接口的開發、oss圖片上傳&#xff09; 項目目錄 配置文件&#xff08;pom.xml&#xff09; <project xmlns"http://maven.apache.org/POM/4.0.0" xmlns:xsi"http://www.w3.org/2001/XMLSchema-instance"xsi:sc…

機器學習:集成學習(Python)

一、Adaboost算法 1.1 Adaboost分類算法 adaboost_discrete_c.py import numpy as np import copy from ch4.decision_tree_C import DecisionTreeClassifierclass AdaBoostClassifier:"""adaboost分類算法&#xff1a;既可以做二分類、也可以做多分類&#…

python常用pandas函數nlargest 和 nsmallest及其手動實現

pandas是Python數據分析的重要工具之一&#xff0c;提供了大量便捷的數據操作方法。nlargest和nsmallest是pandas中兩個非常實用的函數&#xff0c;它們可以幫助我們快速找出Series或DataFrame中最大或最小的n個值。 ### pandas中的nlargest和nsmallest函數 - nlargest(n, colu…

掌握Go語言:深入探究Go語言中的命令源碼文件與參數處理技巧(3)

在Go語言學習的路上&#xff0c;掌握命令源碼文件與參數處理技巧是至關重要的。本文將深入探討命令源碼文件的概念、作用以及參數處理的方法&#xff0c;同時結合進銷存項目&#xff0c;展示實際應用與代碼示例。 命令源碼文件的概述 命令源碼文件是Go語言程序的運行入口&…

uniapp的h5端在線預覽文件

步驟如下&#xff1a; 1、下載需要準備的工具文件包 2、將其解壓到/static/pdf文件夾下,如圖&#xff1a; 3、創建在線查看文件的頁面&#xff1a; <template><view><web-view :src"path"></web-view></view> </template>&l…