java hadoop api_Hadoop 系列HDFS的Java API( Java API介紹)

HDFS的Java API

Java API介紹

將詳細介紹HDFS Java API,一下節再演示更多應用。

Java API 官網

e5d13f6baf4ca84189023b48dae86cfa.png

如上圖所示,Java API頁面分為了三部分,左上角是包(Packages)窗口,左下角是所有類(All Classes是)窗口,右側是詳情窗口。

這里推薦使用“先左下角索引,然后查看右側詳情”的方法,好似查英文詞典一樣。而左上角的包窗口,使用較少。

左下角窗口列出了所有的Java接口和類,可以直接拖動滑動條查找需要的接口或類。如圖所示,比如查找到FileSystem,單擊該類,右側窗口將顯示該類的詳細信息,包括屬性方法等。

eb6603dbe04f827bf1171a744703c89f.png

Configuration類方法

說明

void set(String name, String value)

設置屬性,name是屬性名,value是屬性值

void addResource(String name)

添加一個配置資源

// 1.創建配置器

Configuration conf = new Configuration();

conf.set("fs.default.name", "hdfs://192.168.55.128:9000");

conf.set("mapred.jop.tracker", "192.168.55.128:9001");

Configuration conf = new Configuration();

conf.addResource("core-default.xml");

conf.addResource("core-site.xml");

URL與Path

URI:統一資源標志符(Uniform Resource Identifier)

URL:統一資源定位符(uniform resource location)

URI與URL都是定位資源位置的,就是表示這個資源的位置信息,就像經緯度一樣可以表示你在世界的哪個角落。URI是一種寬泛的含義更廣的定義,而URL則是URI的一個子集,就是說URL是URI的一部分。

URL位于java.net包中

Path類往往與URL類結合使用,Path類位于org.apache.hadoop.fs包下,命名文件系統中的文件或目錄。 路徑字符串使用斜杠作為目錄分隔符。 如果以斜線開始,路徑字符串是絕對的。

方法說明

Path(String pathString)

通過構造器可以把一個字符串構造成一個路徑

FileSystem類

Hadoop是由Java語言編寫的,其中Hadoop 2.7系列是JDK1.7編寫,我們可以通過Java API調用HDFS的所有交互操作接口。其中最常用的類是FileSystem類,包含了hdfs dfs相關操作的實現。

如上圖可以看到FileSystem類的聲明,

public abstract class FileSystem

extends Configured

implements Closeable

了解到:

FileSystem類位于org.apache.hadoop.fs包中,是一個抽象類,其次父類是Configured,實現了 Closeable接口。

Closeable接口是可以關閉的數據源或目標。需要實現close 方法,可釋放對象保存的資源(如打開文件)。

父類Configured有兩個方法:

void setConf(Configuration conf):設置Configuration

Configuration getConf():獲取Configuration

除了上面三個方法,FileSystem類常用方法如下表(省略了public)

57844539025d9804b2dcd09ec142fbcd.png

其中,create()方法有多個重載版本,允許我們指定是否強制覆蓋已有的文件、文件備份數量、寫入文件緩沖區大小、文件塊大小以及文件權限。

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/396391.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/396391.shtml
英文地址,請注明出處:http://en.pswp.cn/news/396391.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

最大連通子數組

這次是求聯通子數組的求和,我們想用圖的某些算法,比如迪杰斯特拉等,但是遇到了困難。用BFS搜索能達到要求,但是還未能成功。 那么我們這樣想,先將每行的最大子數組之和,然后再將這些最大之和組成一個數組&a…

redis的zset的底層實現_Redis(三)--- Redis的五大數據類型的底層實現

1、簡介Redis的五大數據類型也稱五大數據對象;前面介紹過6大數據結構,Redis并沒有直接使用這些結構來實現鍵值對數據庫,而是使用這些結構構建了一個對象系統redisObject;這個對象系統包含了五大數據對象,字符串對象(st…

科學計算機簡單編程_是“計算機科學”還是“編程”?

科學計算機簡單編程by Sam Corcos由Sam Corcos 是“計算機科學”還是“編程”? (Is It “Computer Science” or “Programming”?) 教育政策白皮書(提示:它們不是同一個東西) (An education policy white paper (hint: they’re not the same thing))…

[Matlab] 畫圖命令

matlab畫圖命令,不定時更新以便查找 set(gcf, color, [1 1 1]);     % 使圖背景為白色 alpha(0.4);           %設置平面透明度 plot(Circle1,Circle2,k--,linewidth,1.25);  % k--設置線型  ‘linewidth’,1.25  設置線寬度為1.25 %線型   …

django入門記錄 2

1. 創建一個app, python manage.py startapp appname 2. 設計model,在appname/目錄下編輯好model 3. 檢測model的修改,python manage.py makemigrations appname 4. 自動執行數據庫遷移,并同步管理數據庫結構, python…

spark sql 數據類型轉換_SparkSql 數據類型轉換

1、SparkSql數據類型 1.1數字類型 ByteType:代表一個字節的整數。范圍是-128到127 ShortType:代表兩個字節的整數。范圍是-32768到32767 IntegerType:代表4個字節的整數。范圍是-2147483648到2147483647 LongType:代表8個字節的整數。范圍是-9223372036854775808到92233720…

【Python】 list dict str

list & dict & str 這三種類型是python中最常用的幾種數據類型。他們都是序列的一種 ■  序列通用操作 1. 分片 s[a:b] 返回序列s中從s[a]到s[b-1]的片段。注意s[0:0]是空集而不是s[0] s[a:b:c]  加入第三個參數以設置取樣步長。可以設置成負數來從右向左取樣 2. 加…

終端terminal的顏色配置

PS1 color 終端terminal的顏色配置 PS1"\[\e[92;1m\][\u\e[90;5m\e[25m\[\e[91;4m\]Atlas\e[24m\[\e[1m\]\[\e[92;1m\] \W ]\\$\[\e[0m\]" Set CodeDescriptionExamplePreview1Bold/Bright echo -e "Normal \e[1mBold" 2Dim echo -e "Normal \e[2mDi…

速度與激情的Webpack

Also published in my tech blog也發布在我的技術博客中 This is a guide that is meant to help you ease your development workflow and save your time by using a bunch of awesome tools that you’ve read about on the internet (does React Hot Loader ring any bells…

java nio socket長連接_nio實現Socket長連接和心跳

前段時間用bio方式,也就是傳統io實現了socket的長連接和心跳,總覺著服務端開啟多線程管理socket連接的方式過于消耗資源,數據并發的情況下可能會影響到性能,因此就嘗試使用nio改進原來的代碼。然而改進的過程卻不像我起初設想的那…

unity讓對象作為參數_C#+Unity學習筆記:類與對象

參考文獻蜜酒廳通訊社 游戲部 石中居士對象(object):有狀態、行為和身份的東西。狀態(state):表示物體特征的信息,可以用來跟蹤對象的狀態。屬性(properties):因為編程人員需要把控對象的狀態,所以要對其進行訪問。通過…

Tomcat 報 The valid characters are defined in RFC 7230 and RFC 3986

問題 24-Mar-2017 23:43:21.300 INFO [http-apr-8001-exec-77] org.apache.coyote.http11.AbstractHttp11Processor.process Error parsing HTTP request header Note: further occurrences of HTTP header parsing errors will be logged at DEBUG level. java.lang.IllegalAr…

Linux Kernel Oops異常分析

0.linux內核異常常用分析方法 異常地址是否在0附近,確認是否是空指針解引用問題異常地址是否在iomem映射區,確認是否是設備訪問總線異常問題,如PCI異常導致的地址訪問異常異常地址是否在stack附近,如果相鄰&#xff0c…

Centos7.5 VMtools的安裝與卸載

一、安裝1、自帶tools: 選擇VMware工具欄 > 虛擬機 > 安裝VMtools2、掛載光驅3、tar -zxvf VMwareTools-10.3.2-9925305.tar.gz(這里以tar文件為例)4、切換到目標目錄,執行(一定要使用root權限執行)…

gitter 卸載_最佳Gitter渠道:開發人員工具

gitter 卸載by Gitter通過吉特 最佳Gitter渠道:開發人員工具 (Best Gitter channels: Developer Tools) Developer tools have become essential to any kind of serious software development, also in the open source setting. They can ease the daily develop…

java 過濾腳本_我寫的得到天氣的Java代碼,其中有過濾腳本和過濾HTMLtag的函數。...

public class WeatherFilter{private String html;private String target"http://weather.news.sohu.com/query.php?city北京";public WeatherFilter()throws Exception{this(null);}public WeatherFilter(String targetIn)throws Exception{if(targetIn!null)this.…

【懶癌發作】收集各種懶癌發作時用程序寫作業的程序

updata:20170621 好的,已經是準高一了,現在看起來太蠢了。。。 -------------------------------------------------------------------------------------- 要真正的運用,程序一定是要來解決實際問題的——比如作業(懶就直說&…

50歐姆線設計 高頻pcb_硬件設計基礎100問(三)

硬件基礎知識問答今天依舊是節前知識儲備哦,jacky大神整理的硬件基礎知識很細致,第三彈學起來!01 1、晶體管基本放大電路有共射、共集、共基三種接法,請簡述這三種基本放大電路的特點。共射:共射放大電路具有放大電流和…

如何正確實現 Java 中的 HashCode

相等 和 Hash Code 從一般角度來看,Equality 是不錯的,但是 hash code 更則具技巧性。如果我們在 hash code上多下點功夫,我們就能了解到 hash code 就是用在細微處去提升性能的。 大部分的數據結構使用equals去檢查是否他們包含一個元素。例…

一億小目標成就_成就卓越的一種方式:自我選擇

一億小目標成就by Prosper Otemuyiwa通過Prosper Otemuyiwa 成就卓越的一種方式:自我選擇 (One way to Greatness: Pick Yourself) I’ve heard many people say this: “I want to be great”, but most people only just have wild thoughts & imaginations …