shell 刪除了hdfs 文件_從零開始學大數據(三) Shell操作HDFS文件系統-中

1、格式化

[root@master sbin]# hdfs namenode -format

2、命令hdfs dfsadmin

  • 查看(hdfs dfsadmin -report)
[root@master ~]# hdfs dfsadmin -report
  • 安全模式
#獲取安全模式狀態[root@master ~]# hdfs dfsadmin -safemode get#進入安全狀態[root@master ~]# hdfs dfsadmin -safemode enter#離開安全模式[root@master ~]# hdfs dfsadmin -safemode leave
  • 刷新節點
[root@master ~]# hdfs dfsadmin -refreshNodesRefresh nodes successful
  • 打印網絡拓撲
[root@master ~]# hdfs dfsadmin -printTopologyRack: /default-rack   192.168.30.11:50010 (slave1)   192.168.30.12:50010 (slave2)   192.168.30.13:50010 (slave3)

5、命令 hdfs fsck

  • 查看壞塊
[root@node1 ~]# hdfs fsck -list-corruptfileblocksConnecting to namenode via http://node1:50070The filesystem under path '/' has 0 CORRUPT files[root@node1 ~]# hdfs fsck -locationsConnecting to namenode via http://node1:50070FSCK started by root (auth:SIMPLE) from /192.168.30.11 for path / at Thu Jan 30 22:38:10 CST 2020.Status: HEALTHY Total size:1414 B Total dirs:3 Total files:1 Total symlinks:0 Total blocks (validated):1 (avg. block size 1414 B) Minimally replicated blocks:1 (100.0 %) Over-replicated blocks:0 (0.0 %) Under-replicated blocks:0 (0.0 %) Mis-replicated blocks:0 (0.0 %) Default replication factor:3 Average block replication:3.0 Corrupt blocks:0 Missing replicas:0 (0.0 %) Number of data-nodes:3 Number of racks:1FSCK ended at Thu Jan 30 22:38:10 CST 2020 in 1 millisecondsThe filesystem under path '/' is HEALTHY
  • 刪除壞塊
[root@node1 ~]# hdfs fsck -delete

6、命令hdfs balancer

  • 設置平衡閥
[root@node1 ~]# hdfs balancer -threshold 10

7、配置機架感知

  • 修改core-site.xml文件
topology.script.file.name/opt/hadoop/etc/hadoop/topology.py
  • 創建對應文件
[root@node1 current]# vi /opt/hadoop/etc/hadoop/topology.py#添加如下代碼:#!/usr/bin/python#coding=utf-8import sysrack={"192.168.30.12":"/dc1/rack1",          "192.168.30.13":"/dc1/rack1",          "192.168.30.14":"/dc1/rack2",          "node2":"/dc1/rack1",          "node3":"/dc1/rack1",         "node4":"/dc1/rack2"        }if __name__=="__main__":   print rack.get(sys.argv[1],"/default-rack")
  • 添加執行權限
[root@node1 current]#chmod u+x topology.py
1a716354abf6ca1ce5e2784828fc410f.png

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/455568.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/455568.shtml
英文地址,請注明出處:http://en.pswp.cn/news/455568.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

計算機硬件

計算機硬件 一、為什么要學習計算機基礎 程序員編程的本質就是讓計算機去工作,而編程語言就是程序員與計算機溝通的介質。程序員要想讓計算機工作,就要知道計算機能干什么、是怎么樣的一個完成過程,這也是我們必須學習計算機基礎的原因。 …

當編程作為一種愛好

一、當編程作為一種愛好,時刻關心一段代碼如何實現。 二、當把工具操作得足夠熟悉,閉眼即能達到代碼述寫的規范。 三、程序呀,如果愛上你是我的錯,我打算一錯到底。轉載于:https://www.cnblogs.com/spiriter88/p/6913539.html

Python中的函數概述

1.python中函數概述 概念 模塊化編程的思想 有組織,可共享(重復使用,實現特定的功能的代碼塊) 提高程序的可維護性,提高開發效率,提高代碼的重用性定義一個函數 1.語法:def 函數名稱(形參列表):函數體/代碼塊return 返回值 2.定義參數介紹 def :關鍵字 用于函數的定義,函數的…

鐵路售票系統_鐵路資訊:復興號動車、智能京張高鐵…中國最高端鐵路裝備看這里...

今天上午,兩年一度的中國國際現代化鐵路技術裝備展在京開展,會期3天,將集中展示路網建設、客貨運輸、經營管理、工程建造、技術裝備、旅客服務等鐵路行業各領域的先進產品及技術。展會現場智能京張:將首次實現時速350公里自動駕駛…

H.264的NALU,RTP封包說明(轉自牛人)

H.264 RTP payload 格式 H.264 視頻 RTP 負載格式 1. 網絡抽象層單元類型 (NALU) NALU 頭由一個字節組成, 它的語法如下: --------------- |0|1|2|3|4|5|6|7| -------- |F|NRI| Type | --------------- F: 1 個比特.forbidden_zero_bit. 在 H.264 規…

CentOS下安裝MySQL報安裝文件conflicts錯誤:

2019獨角獸企業重金招聘Python工程師標準>>> 第一:報這個錯誤,說明已經安裝或相關文件已經存在,把已經存在的文件卸載了就可以了: rpm -e --nodeps mysql-libs-5.1.* 轉載于:https://my.oschina.net/u/3197158/blog/1…

inc指令是什么意思_西門子PLC一些指令

指令(英文全稱意思)∶指令含義1、LD ( Load裝載):動合觸點2、LDN (Load Not不裝載):動斷觸點3、A(And與動合):用于動合觸點串聯4、AN (And Not與動斷):用于動斷觸點串聯5、o(Or 或動合):用于動合觸點并聯6、ON(Or Not 或動斷):用于動斷觸點并聯7、(Out輸出):用于線圈輸出8、OLD…

python核心,內建函數,高階函數

晨測 global和nonlocal區別 寫一個遞歸的階乘回顧 1.global和nonlocal 關鍵字 2.函數的遞歸 1.查找規律 2.設置退出條件 3.性能 3.閉包 外函數中定義一個內函數 外函數的返回值是內函數的引用 內函數引用外函數的變量,未來外函數執行完畢,不會釋放被內函數引用變量 4.總結 1.…

對h.264壓縮視頻碼流中i幀的提取(firstime)

這個問題要說清楚還是有點復雜:首先判斷 NALU 類型是否是 5,如果是,那么以后連續出現的 NALU 類型為 5 的 NALU 就屬于 IDR 幀(一種特殊的 I 幀);如果 NALU 不是 5,則要進一步判斷 slice_type 是…

hadoop fs 運維常用的幾個命令

FS Shell調用文件系統(FS)Shell命令應使用 bin/hadoop fs <args>的形式。 所有的的FS shell命令使用URI路徑作為參數。URI格式是scheme://authority/path。對HDFS文件系統&#xff0c;scheme是hdfs&#xff0c;對本地文件系統&#xff0c;scheme是file。其中scheme和auth…

touchesEnded不響應

為什么80%的碼農都做不了架構師&#xff1f;>>> http://blog.csdn.net/assholeu/article/details/16363241 touchesEnded不響應主要存在以下幾種情況 case 1 : userInteractionEnabled 部分控件如UIImageView&#xff0c;userInteractionEnabled默認為NO&#xff0…

python request對四類參數的處理_如何處理Djang中同一參數具有多個變量的request.GET...

在Django視圖中&#xff0c;您可以訪問request.GET[variablename]&#xff0c;因此在您的視圖中&#xff0c;您可以執行如下操作&#xff1a;myvar request.GET[myvar] 實際的request.GET[myvar]對象類型是&#xff1a; 現在&#xff0c;如果要傳遞具有相同參數名的多個變量&a…

nonlocal和global關鍵字

回顧: 1. Python的函數的概述函數定義函數調用2. Python函數中參數的類型和返回值形參和實參形參類型:普通參數: 實參的傳遞的順序和個數和形參一直關鍵字參數: 指定傳遞的實參被特定形參接收默認參數: 形參中設定當前參數的默認值可以不傳遞設定了默認參數的實參不定長參數:一…

小波在圖像視頻壓縮領域中的應用分析【轉貼】

到目前為止&#xff0c;小波的最多應用一直是數字圖像壓縮。它們是新JPEG2000數字圖像標準的核心。使用小波變換的優勢主要有如下幾個方面。 1、基于小波變換的方法能有效地保留原始圖像的細節和邊緣&#xff0c;重建圖像時不會造成“振鈴”效應。 2、基于小波變換的方法采用…

iOS開發人員不容錯過的10大工具

內容簡介 1、iOS簡介 2、iOS開發十大實用工具之開發環境 3、iOS開發十大實用工具之圖標設計 4、iOS開發十大實用工具之原型設計 5、iOS開發十大實用工具之演示工具 6、iOS開發十大實用工具之視頻制作 7、iOS開發十大實用工具之分析工具 iOS簡介 說起iOS&#xff0c;自然不必多介…

博弈論之Nim游戲

OI里&#xff0c;博弈論就是兩個聰明絕頂的人玩不公平的游戲。 Nim游戲是組合游戲(Combinatorial Games)的一種&#xff0c;屬于“Impartial Combinatorial Games”&#xff08;以下簡稱ICG&#xff09;。 通常的Nim游戲的定義是這樣的&#xff1a;有若干堆石子&#xff0c;每堆…

python標準庫sys_Python標準庫之Sys模塊使用詳解

sys 模塊提供了許多函數和變量來處理 Python 運行時環境的不同部分. 處理命令行參數 在解釋器啟動后, argv 列表包含了傳遞給腳本的所有參數, 列表的第一個元素為腳本自身的名稱. 使用sys模塊獲得腳本的參數 復制代碼代碼如下: print "script name is", sys.argv[0] …

python3.7知識點匯總

Python3.7從零開始學 —|進入Python3.7的精彩世界 —|---|Python起源 —|---|—|Python作者簡介 —|---|—|---|Guido von Rossum&#xff0c;荷蘭人。1982年&#xff0c;Guido從阿姆斯特丹大學獲得了數學和計算機碩士學位。1989年&#xff0c;他創立了Python語言。 —|---|—|…

塊編碼、對象編碼、小波編碼、分布式編碼【轉貼】

人類獲取的信息中70%來自于視覺&#xff0c;視頻信息在多媒體信息中占有重要地位&#xff1b;同時視頻數據冗余度最大&#xff0c;經壓縮處理后的視頻質量高低是決定多媒體服務質量的關鍵因素。因此數字視頻技術是多媒體應用的核心技術&#xff0c;對視頻編碼的研究已成為信息技…

cookie練習

cookie是網站便于辨別用戶身份&#xff0c;進行 session 跟蹤而儲存在用戶本地終端上的數據。 cookie通過jsdom操作完成。 添加cookie&#xff1a; document.cookie ‘name val’;前一個是name&#xff0c;后一個是val。添加的時間是永久的。 document.cookie ‘name val ;…