這篇文章主要講解了“用Partition函數怎么實現Hive動態分區”,文中的講解內容簡單清晰,易于學習與理解,下面請大家跟著小編的思路慢慢深入,一起來研究和學習“用Partition函數怎么實現Hive動態分區”吧!
為修武等地區用戶提供了全套網頁設計制作服務,及修武網站建設行業解決方案。主營業務為成都網站制作、做網站、修武網站設計,以傳統方式定制建設網站,并提供域名空間備案等一條龍服務,秉承以專業、用心的態度為用戶提供真誠的服務。我們深信只要達到每一位用戶的要求,就會得到認可,從而選擇與我們長期合作。這樣,我們也可以走得更遠!
一、前段時間因為導表需求(從一張表中查找出數據,按日期分區overwrite 到指定分區表中),在Hive里面研究了一下自動分區。
步驟:
1、建好所需分區表
2、設置分區參數
set hive.exec.dynamic.partition=true;(可通過這個語句查看:set hive.exec.dynamic.partition;) set hive.exec.dynamic.partition.mode=nonstrict; SET hive.exec.max.dynamic.partitions=100000;(如果自動分區數大于這個參數,將會報錯) SET hive.exec.max.dynamic.partitions.pernode=100000;
3、書寫代碼(特別注意:日期字段一定要放在末尾),例如:
INSERT OVERWRITE TABLE dw_stage.ds_info_msg partition(cal_dt) select id ,... ,pv ,0 uv ,cal_dt from dw_stage.tiny_info_msg
二、如果要在partition字段用函數處理也可通過通過這種方式實現;例如:
set hive.exec.dynamic.partition=true; set hive.exec.dynamic.partition.mode=nostrick; INSERT OVERWRITE TABLE dw_stage.ds_info_msg partition(cal_dt) SELECT id ,... ,pv ,date_sub('2014-03-23',7) cal_dt FROM dw_stage.tiny_info_msg07;
感謝各位的閱讀,以上就是“用Partition函數怎么實現Hive動態分區”的內容了,經過本文的學習后,相信大家對用Partition函數怎么實現Hive動態分區這一問題有了更深刻的體會,具體使用情況還需要大家實踐驗證。這里是創新互聯,小編將為大家推送更多相關知識點的文章,歡迎關注!
當前題目:用Partition函數怎么實現Hive動態分區
標題路徑:http://m.newbst.com/article16/jegodg.html
成都網站建設公司_創新互聯,為您提供ChatGPT、電子商務、Google、靜態網站、標簽優化、全網營銷推廣
聲明:本網站發布的內容(圖片、視頻和文字)以用戶投稿、用戶轉載內容為主,如果涉及侵權請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網站立場,如需處理請聯系客服。電話:028-86922220;郵箱:631063699@qq.com。內容未經允許不得轉載,或轉載時需注明來源: 創新互聯