HDFS學習 Java連接hadoop

文章目錄

    • 建立連接獲取hadoop下的文件信息
    • 編寫hadoop連接工具類

建立連接獲取hadoop下的文件信息

import java.io.IOException;
import java.net.URI;
import java.net.URISyntaxException;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.BlockLocation;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.LocatedFileStatus;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.fs.RemoteIterator;public class ListFile {public static void main(String [] args) throws IOException, Exception,URISyntaxException{FileSystem file = FileSystem.get(new URI("hdfs://虛擬機IP地址:9000"),new Configuration(),"hadoop");//獲取FileSystem對象RemoteIterator<LocatedFileStatus> iterator = file.listFiles(new Path("/"), true);//調用listFiles 獲取 /目錄下所有的文件信息while(iterator.hasNext()) {//遍歷 / 文件夾LocatedFileStatus fileStatus =  iterator.next();//獲取文件狀態對象Path path = fileStatus.getPath();//獲取決定路徑String name = path.getName();//獲取名字System.out.println(path.toString()+"       "+path.getName());BlockLocation[] locations = fileStatus.getBlockLocations();//獲取文件塊的信息System.out.println("block"+locations.length);//輸出文件塊的大小}}
}

編寫hadoop連接工具類

package com.clouddisk.cloud.util;import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.*;import java.io.IOException;
import java.net.URI;
import java.net.URISyntaxException;public class HDFSUtils {private static Configuration conf ;private static FileSystem fs ;private static String address = "hdfs://192.168.43.60:9000";public FileSystem getConf() throws URISyntaxException, IOException, InterruptedException {conf = new Configuration();fs = FileSystem.get(new URI(address),conf,"hadoop");return fs;}public void release() throws IOException {fs.close();}public String getAddress(){return address;}
}

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/530980.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/530980.shtml
英文地址,請注明出處:http://en.pswp.cn/news/530980.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

解決虛擬機沒有ens33網卡的問題

話不多說&#xff0c;直接操作 解決辦法 1.在終端中輸入: sudo vim /etc/network/interfaces進入interfaces文件后&#xff0c;然后輸入以下代碼&#xff0c;然后保存退出 auto ens33 iface ens33 inet dhcp 2.重啟虛擬機 輸入ifconfig命令&#xff0c;成功啟動ens33網卡

HDFS上傳文件命令報錯org.apache.hadoop.ipc.RemoteException(java.io.IOException)

作為作者&#xff0c;強烈不建議進行格式化hadoop&#xff0c;畢竟開發數據是最為重要的&#xff01; Hadoop 3.1 hdfs dfs -put /源文件路徑 /目的文件路徑解決方案 第一步&#xff1a;停止主節點&#xff08;Master&#xff09;和子節點服務&#xff08;Slave&#xff09; …

hadoop退出安全模式Name node is in safe mode

解決方案&#xff1a; hadoop dfsadmin -safemode leave或者&#xff1a; hdfs dfsadmin -safemode leave

圖(Graph)的學習

文章目錄圖的認識圖的概念無向圖有向圖簡單圖完全圖子圖連通、連通圖、連通分量邊的權和網加權圖鄰接和關聯路徑簡單路徑、簡單回路環頂點的度、入度和出度割點&#xff08;關節點&#xff09;橋(割邊)距離有向樹圖的表示鄰接列表鄰接矩陣圖的遍歷深度優先遍歷廣度優先遍歷生成…

并查集(Disjiont Set)

并查集 并查集的最大作用是檢測一個圖上面存不存在環。 無向圖&#xff0c;六個頂點 顯然 1-2-4-3連成一個環 #include<stdio.h> #include<stdlib.h>#define VERTICES 6void initialise(int parent[]){int i;for(i0;i<VERTICES;i){parent[i]-1; }}int find_…

采用Kruskal算法生成最小生成樹,并采用并查集的合并優化和查詢優化。

文章目錄最小生成樹1.什么是圖的最小生成樹&#xff08;MST&#xff09;?2.最小生成樹用來解決什么問題&#xff1f;Kruskal&#xff08;克魯斯卡爾&#xff09;算法算法描述圖解最小生成樹 1.什么是圖的最小生成樹&#xff08;MST&#xff09;? 用N-1條邊連接N個點&#x…

Java操作HBase

rowkey查詢 //根據rowKey進行查詢public static User getDataByRowKey(String tableName, String rowKey,String password) throws IOException {Admin admin connection.getAdmin();Table table connection.getTable(TableName.valueOf(tableName));Get get new Get(rowKe…

Java連接Mysql數據庫(JDBC)

文章目錄導入包con、stmt、rs 三者存在一定的關系getInt和getStringinput.nextInt();簡單使用講解ResultSet和StatementPreparedStatement的用法JDBC連接代碼更多樣例導入包 import java.sql.Connection; import java.sql.DriverManager; import java.sql.statement; import j…

JavaBean和Servlet

文章目錄JavaBean通俗的講JavaBean的作用JavaBean&#xff08;就是一個Java類&#xff09;的定義使用層面&#xff0c;Java分為2大類&#xff1a;Servlet回顧純手工方法創建第一個Servlet借助于Eclipse快速生成ServletServlet3.0&#xff0c;與Servlet2.5的區別&#xff1a;項目…

Linux編程考前測試題

文章目錄選擇題多選題判斷題填空題簡答題編程題選擇題 1:當打開vi文本編輯器編輯文件時&#xff0c;vi處于&#xff08;A&#xff09;模式 A: 命令模式 B: 編輯模式 C: 實模式 D: 虛模式 2:下列有關fork&#xff08;&#xff09;函數返回值說法錯誤的是&#xff08;D&#xf…

MySQL考試復習(知識點、練習題)

文章目錄數據庫的管理技術的三個階段發展的三個階段數據庫的鎖數據庫設計的基本步驟事務的四大特性什么是視圖如果關系模式設計不好&#xff0c;可能帶來哪幾個問題數據庫管理系統的主要功能有哪些數據庫系統中的常見故障有哪些簡述SQL語言的組成說明關系模型有哪三類完整性規則…

Oracle復習(知識點、練習題、實驗)

文章目錄第一章 數據庫概念數據庫的三級模式結構&#xff1a;模式、外模式、內模式三級模式之間的映射第二章 Oracle12g體系結構Oracle的邏輯存儲結構Oracle物理存儲結構Oracle11g服務器結構系統全局區&#xff08;SGA&#xff09;程序全局區&#xff08;PGA&#xff09;第三章…

Openstack面試題和知識點總結

文章目錄知識點云計算起源定義特點分類服務類型平臺分類應用虛擬化虛擬化技術定義分類云計算和虛擬化的關系虛擬化的優點OpenStack簡介核心架構Openstack組件共享服務組件核心組件組件詳解RabbitMQ概念特點rabbitmq中的概念工作原理常用操作MemcachedKeystoneGlance工作原理Nov…

實例化一個對象

類實例化就是新建一個類的對象&#xff0c;就是new一個對象 類名 對象名 new 類名&#xff08;&#xff09;;例子&#xff1a;Student stu new Student&#xff08;&#xff09;; 注意&#xff1a; 類在沒有實例化之前,就是new之前,它的屬性,方法等等在內存中都是不存在的.…

RuntimeException:java.lang.ClassNotFoundException: Class wordcount.WordCountMapper not fonud

在hadoop上運行Mapreduce項目jar包報錯&#xff1a; Error: java.lang.RuntimeException: java.lang.ClassNotFoundException: Class wordcount.WordCountMapper not foundat org.apache.hadoop.conf.Configuration.getClass(Configuration.java:2638)at org.apache.hadoop.ma…

auto.js 實現信息發送、QQ點贊、微信點贊、健康日報簽到

文章目錄auto.js開發文檔安裝total control在手機端安裝auto.js apk安裝vscode短信多條發送QQ點贊微信點贊健康日報填寫疊貓貓auto.js開發文檔 點擊學習 安裝total control total control 用于手機投屏在電腦屏幕上 在手機端安裝auto.js apk 鏈接&#xff1a;https://pan.…

MapReduce綜合學習含Wordcount案例

文章目錄MapReduce簡介MapTaskReduceTaskMapper階段解讀Reducer階段解讀MapReduce適用的問題MapReduce的特點MapReduce基本思想大數據處理思想&#xff1a;分而治之構建抽象模型&#xff1a;Map 函數和 Reduce 函數上升到架構&#xff1a;并行自動化并隱藏底層細節MapReduce計算…

基于Spring boot+Vue的在線考試系統

文章目錄spring boot 分層圖解安裝idea配置阿里云鏡像項目啟動前端項目結構項目前端中index.htmlApp.vuemain.jsrouter整個頁面渲染過程關于矢量圖圖標的使用引入JQuery依賴github-markdown-css樣式文件-一般用作文章正文的樣式美化spring boot 分層圖解 安裝idea 安裝參考 id…

Java基礎總結之(面試)

文章目錄Java標識符Java修飾符訪問權限修飾符訪問控制和繼承非訪問權限修飾符局部變量修飾符接口接口中方法修飾符運算符算術運算符一元運算符二元運算符算術賦值運算符賦值運算符邏輯運算符&#xff08;&&、||和!&#xff09;關系運算符自增和自減運算符&#xff08;和…