Hive中常出現的錯誤(不定時更新)

?1.加載數據失敗

hive> load data local inpath '/home/user/hive.txt' into table studentl> ;
FAILED: SemanticException [Error 10001]: Line 1:56 Table not found 'studentl'
hive> load data local inpath '/home/user/hive.txt' into table student;
Loading data to table default.student
Failed with exception Unable to move source file:/home/user/hive.txt to destination hdfs://com.qiyu02:8020/user/hive/warehouse/student/hive.txt
FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.MoveTask

在hive日志發現
org.apache.hadoop.ipc.RemoteException(java.io.IOException): File /user/hive/warehouse/student/hive.txt could only be replicated to 0 nodes instead of minReplication (=1).  There are 1 datanode(s) running and no node(s) are excluded in this operation.at org.apache.hadoop.hdfs.server.blockmanagement.BlockManager.chooseTarget(BlockManager.java:1503)at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.getAdditionalBlock(FSNamesystem.java:3124)at org.apache.hadoop.hdfs.server.namenode.NameNodeRpcServer.addBlock(NameNodeRpcServer.java:636)at org.apache.hadoop.hdfs.server.namenode.AuthorizationProviderProxyClientProtocol.addBlock(AuthorizationProviderProxyClientProtocol.java:188)at org.apache.hadoop.hdfs.protocolPB.ClientNamenodeProtocolServerSideTranslatorPB.addBlock(ClientNamenodeProtocolServerSideTranslatorPB.java:476)at org.apache.hadoop.hdfs.protocol.proto.ClientNamenodeProtocolProtos$ClientNamenodeProtocol$2.callBlockingMethod(ClientNamenodeProtocolProtos.java)at org.apache.hadoop.ipc.ProtobufRpcEngine$Server$ProtoBufRpcInvoker.call(ProtobufRpcEngine.java:587)at org.apache.hadoop.ipc.RPC$Server.call(RPC.java:1026)at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:2013)at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:2009)at java.security.AccessController.doPrivileged(Native Method)at javax.security.auth.Subject.doAs(Subject.java:415)at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1642)at org.apache.hadoop.ipc.Server$Handler.run(Server.java:2007)at org.apache.hadoop.ipc.Client.call(Client.java:1411)at org.apache.hadoop.ipc.Client.call(Client.java:1364)at org.apache.hadoop.ipc.ProtobufRpcEngine$Invoker.invoke(ProtobufRpcEngine.java:206)at com.sun.proxy.$Proxy19.addBlock(Unknown Source)at org.apache.hadoop.hdfs.protocolPB.ClientNamenodeProtocolTranslatorPB.addBlock(ClientNamenodeProtocolTranslatorPB.java:391)at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)at sun.reflect.NativeMethodAccesThere are 1 datanode(s) running and no node(s) are excluded in this operation.at org.apache.hadoop.hdfs.server.blockmanagement.BlockManager.chooseTarget(BlockManager.java:1503)at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.getAdditionalBlock(FSNamesystem.java:3124)at org.apache.hadoop.hdfs.server.namenode.NameNodeRpcServer.addBlock(NameNodeRpcServer.java:636)at org.apache.hadoop.hdfs.server.namenode.AuthorizationProviderProxyClientProtocol.addBlock(AuthorizationProviderProxyClientProtocol.java:188)at org.apache.hadoop.hdfs.protocolPB.ClientNamenodeProtocolServerSideTranslatorPB.addBlock(ClientNamenodeProtocolServerSideTranslatorPB.java:476)at org.apache.hadoop.hdfs.protocol.proto.ClientNamenodeProtocolProtos$ClientNamenodeProtocol$2.callBlockingMethod(ClientNamenodeProtocolProtos.java)at org.apache.hadoop.ipc.ProtobufRpcEngine$Server$ProtoBufRpcInvoker.call(ProtobufRpcEngine.java:587)at org.apache.hadoop.ipc.RPC$Server.call(RPC.java:1026)at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:2013)at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:2009)at java.security.AccessController.doPrivileged(Native Method)at javax.security.auth.Subject.doAs(Subject.java:415)at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1642)at org.apache.hadoop.ipc.Server$Handler.run(Server.java:2007)at org.apache.hadoop.ipc.Client.call(Client.java:1411)at org.apache.hadoop.ipc.Client.call(Client.java:1364)at org.apache.hadoop.ipc.ProtobufRpcEngine$Invoker.invoke(ProtobufRpcEngine.java:206)at com.sun.proxy.$Proxy19.addBlock(Unknown Source)at org.apache.hadoop.hdfs.protocolPB.ClientNamenodeProtocolTranslatorPB.addBlock(ClientNamenodeProtocolTranslatorPB.java:391)at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)at sun.reflect.NativeMethodAcces
<span style="color:#ff0000">There are 1 datanode(s) running and no node(s) are excluded in this operation.</span>
大概是datanode(s) 掛掉了 ,敲下jps驗證一下,果真如此,不得不重啟一下hadoop進程了

2.Hive中運行Mapredurce程序時:

錯誤:

Ended Job = job_1504575362948_0022 with errors Error during job, obtaining debugging information...

hive (person)> select password from user1;
Total jobs = 1
Launching Job 1 out of 1
Number of reduce tasks is set to 0 since there's no reduce operator
Starting Job = job_1504575362948_0022, Tracking URL = http://com.qiyu02:8088/proxy/application_1504575362948_0022/
Kill Command = /opt/modules/hadoop-2.5.0-cdh5.3.6/bin/hadoop job  -kill job_1504575362948_0022
Hadoop job information for Stage-1: number of mappers: 0; number of reducers: 0
2017-09-05 11:44:53,804 Stage-1 map = 0%,  reduce = 0%
Ended Job = job_1504575362948_0022 with errors
Error during job, obtaining debugging information...
FAILED: Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.mr.MapRedTask
MapReduce Jobs Launched: 
Stage-Stage-1:  HDFS Read: 0 HDFS Write: 0 FAIL
Total MapReduce CPU Time Spent: 0 msec

網上說法一大堆!說什么內存不夠啊、ResourceManger沒成功啟動啊....等等全試了一遍,還是沒解決。。。

后來猜測可能是內核的原因,改下內核,重新啟動就好了

3. hive on tez? ,yarn 任務一直都running 狀態。

修改 tez :默認 tez.session.am.dag.submit.timeout.secs=600??

改成 0

修改 hive :?tez.session.am.dag.submit.timeout.secs = xxxx

改成 0

資源有限的話? 改成 0,越早釋放資源越好

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/162721.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/162721.shtml
英文地址,請注明出處:http://en.pswp.cn/news/162721.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

技術分享| anyRTC之RTN網絡

RTN(Real-time Network)中文名&#xff1a;實時音視頻傳輸網絡。 RTN是最近幾年由各大RTC的云廠商提出的一個全新架構的音視頻實時傳輸網絡概念。類似于直播的CDN網絡&#xff0c;RTN是對音視頻的實時性又強烈要求的場景而設計的&#xff0c;原理上全球端到端的時延通過RTN網絡…

JSP EL表達式獲取list/Map集合與java Bean對象

上文 JSP EL表達式基本使用 中 我們對EL表達式做了一個基本的了解 也做了基礎的字符串數據使用 那么 我們可以來看一下我們的集合 首先 list 這個比較簡單 我們直接這樣寫代碼 <% page import"java.util.ArrayList" %> <% page import"java.util.Lis…

基于C#實現優先隊列

一、堆結構 1.1性質 堆是一種很松散的序結構樹&#xff0c;只保存了父節點和孩子節點的大小關系&#xff0c;并不規定左右孩子的大小&#xff0c;不像排序樹那樣嚴格&#xff0c;又因為堆是一種完全二叉樹&#xff0c;設節點為 i,則 i/2 是 i 的父節點&#xff0c;2i 是 i 的…

安卓開發之HTTP API服務接口設計(基于okhttp3請求)

安卓中的請求 OkHttp3 是一個開源的 Java/Android HTTP 客戶端庫,由 Square 公司開發。它提供了簡潔和高效 的 API ,用于進行 HTTP 請求、處理響應以及與服務器進行通信。 以下是 OkHttp3 的一些主要特點和功能: 簡單易用: OkHttp3 提供了簡潔的 API ,使得發送 HTTP 請求變…

信息系統的安全保護等級的五個級別

信息系統的安全保護等級分為五級&#xff1a;第一級為自主保護級、第二級為指導保護級、第三級為監督保護級、第四級為強制保護級、第五級為專控保護級。 法律依據&#xff1a;《信息安全等級保護管理辦法》第四條 信息系統的安全保護等級分為以下五級&#xff1a;   &#…

【C語言】計算實時太陽角度(高度角、方位角),以及使用stm32單片機實時獲取時間戳

整體計算方法 在編寫該代碼的過程中尋找了多篇博文和論文&#xff0c;綜合所有文章且按網上的以0時的方位角的0&#xff0c;且隨時間累加累加至360度。我修改了博文和論文的一些角度的計算方法。得到一下代碼與網站計算的方位角相互驗證過&#xff0c;誤差不超過1 驗證網站 太…

LoRaWAN 中國地區文件詳細解讀

目錄 一、LoRaWAN簡介 二、CN470-510地區參數分析 1.信道頻率 2.支持功率 3.支持空速 4.最大負載大小 5.接受窗口參數 三、CN470_510默認參數 Lora LoraWAN教程 一、LoRaWAN簡介 LoraWAN是一種基于LoRa遠距離通信技術配套設計的一套通訊協議和系統架構。LoRaWAN網絡通…

Java實現拼圖游戲

1、了解拼圖游戲基本功能&#xff1a; 拼圖游戲內容由若干小圖像塊組成的&#xff0c;通過鼠標點擊圖像塊上下左右移動&#xff0c;完成圖像的拼湊。 2、拼圖游戲交互界面設計與開發&#xff1a; 通過創建窗體類、菜單、中間面板和左右面板完成設計拼圖的交互界面 &#xff…

外貿自建站服務器怎么選?網站搭建的工具?

外貿自建站服務器用哪個好&#xff1f;如何選海洋建站的服務器&#xff1f; 外貿自建站是企業拓展海外市場的重要手段之一。而在這個過程中&#xff0c;選擇一個適合的服務器對于網站的穩定運行和優化至關重要。海洋建站將為您介紹如何選擇適合的外貿自建站服務器。 外貿自建…

CSDN如何完整轉載別人的文章并做自己的筆記

1、這篇文章介紹主體的轉載&#xff08;粘貼&#xff09;方法&#xff1a; 轉載&#xff1a;CSDN快速轉載文章方法&#xff08;簡單&#xff09;_csdn轉載_biggolden1的博客-CSDN博客 2、這篇文章解決&#xff0c;對于含有代碼塊的文章粘貼后&#xff0c;出現的額外行號塊問題…

【STM32外設系列】GPS定位模塊(ATGM336H)

&#x1f380; 文章作者&#xff1a;二土電子 &#x1f338; 關注公眾號獲取更多資料&#xff01; &#x1f438; 期待大家一起學習交流&#xff01; 文章目錄 一、GPS模塊簡介二、使用方法2.1 引腳介紹2.2 數據幀介紹2.3 關于不同的啟動方式 三、前置知識3.1 strstr函數3.2…

DevSecOps 的未來

采用 可以做的事情還有很多。您編碼和構建的內容是您看到嵌入 CI/CD 管道的大部分進展的地方。隨著世界在不同的云環境中變得更加由 API 驅動&#xff0c;我們將考慮如何將安全角度嵌入到所有這些事物中&#xff0c;無論平臺如何構建。這是一個涉及人員的工作流程。您做得越多&…

基于H1ve一分鐘搭好CTF靶場

寫在前面 ? ? ? 上一篇文章給大家詳細介紹了基于H1ve搭建CTF靶場&#xff0c;以及過程中可能遇到的報錯及解決方法&#xff0c;那么這篇文章&#xff0c;我總結了一下&#xff0c;將不會遇到報錯的方法給到大家&#xff0c;但是前提是你的服務器最好是一個全新的哦~~~ 我…

Qt框架學習(1)

1.安裝Qt官網 2.Qt中的快捷鍵 快捷鍵解釋F4頭文件和實現文件切換ShiftF2變量:跳轉到聲明;函數:跳轉到定義;F5調試程序F3查找下一個CtrlShiftR修改所有選中的名稱F10單步(略過)調試,執行當前程序語句F11單步(跟蹤)調試,如果有函數則進入函數F9設置\取消斷點CtrlShiftS保存所有文…

C++基礎從0到1入門編程(四)類和對象

系統學習C 方便自己日后復習&#xff0c;錯誤的地方希望積極指正 往期文章&#xff1a; C基礎從0到1入門編程&#xff08;一&#xff09; C基礎從0到1入門編程&#xff08;二&#xff09; C基礎從0到1入門編程&#xff08;三&#xff09; 參考視頻&#xff1a; 1.黑馬程序員匠心…

Spring boot @Bean

Bean 是 Spring 框架中的一個注解&#xff0c;它的作用是將一個方法標記為 Spring 容器中的一個 Bean。具體來說&#xff0c;當你在一個類中使用 Bean 注解修飾一個方法時&#xff0c;這個方法將會在 Spring 容器中執行&#xff0c;并且返回的對象也會被 Spring 容器管理。 Be…

香蕉派BPI-M4 Zero單板計算機采用全志H618,板載2GRAM內存

Banana Pi BPI-M4 Zero 香蕉派 BPI-M4 Zero是BPI-M2 Zero的最新升級版本。它在性能上有很大的提高。主控芯片升級為全志科技H618 四核A53, CPU主頻提升25%。內存升級為2G LPDDR4&#xff0c;板載8G eMMC存儲。它支持5G WiFi 和藍牙, USB接口也升級為type-C。 它具有與樹莓派 …

23. 深度學習 - 多維向量自動求導

Hi, 你好。我是茶桁。 前面幾節課中&#xff0c;我們從最初的理解神經網絡&#xff0c;到講解函數&#xff0c;多層神經網絡&#xff0c;拓樸排序以及自動求導。 可以說&#xff0c;最難的部分已經過去了&#xff0c;這節課到了我們來收尾的階段&#xff0c;沒錯&#xff0c;生…

Android定位make有哪些target $ mgrep “build“ |grep target |grep image

環境 $ cat /proc/cpuinfo processor : 0 vendor_id : GenuineIntel cpu family : 6 model : 85 model name : Intel(R) Xeon(R) Gold 5122 CPU 3.60GHz stepping : 4 microcode : 0x2006e05 cpu MHz : 1200.086 cache…

大模型訓練效率提升至2.6倍,騰訊Angel機器學習框架升級

在算力緊缺的背景下&#xff0c;如何提升大模型訓練和推理的效率&#xff0c;并降低成本&#xff0c;成為業界關注的焦點。 11月23日&#xff0c;騰訊披露&#xff0c;騰訊混元大模型背后的自研機器學習框架Angel再次升級&#xff0c;大模型訓練效率提升至主流開源框架的2.6倍…