因為開發環境需要遷移,將原來HBase中的表使用 org.apache.hadoop.hbase.mapreduce.Export 工具序列化到hdfs后下載出來,在新的開發環境中導入。導入時遇到了兩個問題。
創新互聯是一家以網站設計建設,小程序開發、網站開發設計,網絡軟件產品開發,企業互聯網推廣服務為主的民營科技公司。主要業務涵蓋:為客戶提供網站策劃、網站設計、網站開發、主機域名、網站優化排名、賣友情鏈接等服務領域。憑借建站老客戶口碑做市場,建設網站時,根據市場搜索規律和搜索引擎的排名收錄規律編程,全力為建站客戶設計制作排名好的網站,深受老客戶認可和贊譽。
問題一:導入失敗提示User hbase cannot submit applications to queue root.hbase
解決方法:
登錄到yarn集群管理節點Resource Manager機器上/etc/hadoop 路徑 ,修改fair-scheduler.xml
vi /etc/hadoop/fair-scheduler.xml,新增以下內容(所有的Resource Manager節點都需要修改),保存退出。不需要重啟集群和組件
<queue name='hbase'> <weight>1</weight> <schedulingPolicy>drf</schedulingPolicy> <aclSubmitApps>hdfs,hbase,hive</aclSubmitApps> <aclAdministerApps>hbase</aclAdministerApps> <minResources>100 mb,10 vcores</minResources> <maxResources>10240 mb,50 vcores</maxResources> <maxRunningApps>50</maxRunningApps> </queue>
問題二:導入失敗,終端沒有按正常進度走,也沒有相關錯誤提示。
查看yarn 中的job日志發現如下信息
解決方法:
去系統下查看hbase的id為uid=482(hbase)而yarn的配置中有一項為“min.user.id”最小用戶id這里配置了1000。修改為300后問題排除。
這個配置的作用是“允許的最小 Linux 用戶 ID。用于阻止其他超級用戶。”
本文題目:使用HBase自帶的import工具導入數據遇到的兩個問題
網頁地址:http://m.newbst.com/article10/jeihdo.html
成都網站建設公司_創新互聯,為您提供App設計、外貿建站、搜索引擎優化、品牌網站設計、網站制作、
聲明:本網站發布的內容(圖片、視頻和文字)以用戶投稿、用戶轉載內容為主,如果涉及侵權請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網站立場,如需處理請聯系客服。電話:028-86922220;郵箱:631063699@qq.com。內容未經允許不得轉載,或轉載時需注明來源: 創新互聯