這篇文章主要講解了“用Partition函數怎么實現(xiàn)Hive動態(tài)分區(qū)”,文中的講解內容簡單清晰,易于學習與理解,下面請大家跟著小編的思路慢慢深入,一起來研究和學習“用Partition函數怎么實現(xiàn)Hive動態(tài)分區(qū)”吧!
為修武等地區(qū)用戶提供了全套網頁設計制作服務,及修武網站建設行業(yè)解決方案。主營業(yè)務為成都網站制作、做網站、修武網站設計,以傳統(tǒng)方式定制建設網站,并提供域名空間備案等一條龍服務,秉承以專業(yè)、用心的態(tài)度為用戶提供真誠的服務。我們深信只要達到每一位用戶的要求,就會得到認可,從而選擇與我們長期合作。這樣,我們也可以走得更遠!
一、前段時間因為導表需求(從一張表中查找出數據,按日期分區(qū)overwrite 到指定分區(qū)表中),在Hive里面研究了一下自動分區(qū)。
步驟:
1、建好所需分區(qū)表
2、設置分區(qū)參數
set hive.exec.dynamic.partition=true;(可通過這個語句查看:set hive.exec.dynamic.partition;) set hive.exec.dynamic.partition.mode=nonstrict; SET hive.exec.max.dynamic.partitions=100000;(如果自動分區(qū)數大于這個參數,將會報錯) SET hive.exec.max.dynamic.partitions.pernode=100000;
3、書寫代碼(特別注意:日期字段一定要放在末尾),例如:
INSERT OVERWRITE TABLE dw_stage.ds_info_msg partition(cal_dt) select id ,... ,pv ,0 uv ,cal_dt from dw_stage.tiny_info_msg
二、如果要在partition字段用函數處理也可通過通過這種方式實現(xiàn);例如:
set hive.exec.dynamic.partition=true; set hive.exec.dynamic.partition.mode=nostrick; INSERT OVERWRITE TABLE dw_stage.ds_info_msg partition(cal_dt) SELECT id ,... ,pv ,date_sub('2014-03-23',7) cal_dt FROM dw_stage.tiny_info_msg07;
感謝各位的閱讀,以上就是“用Partition函數怎么實現(xiàn)Hive動態(tài)分區(qū)”的內容了,經過本文的學習后,相信大家對用Partition函數怎么實現(xiàn)Hive動態(tài)分區(qū)這一問題有了更深刻的體會,具體使用情況還需要大家實踐驗證。這里是創(chuàng)新互聯(lián),小編將為大家推送更多相關知識點的文章,歡迎關注!