真实的国产乱ⅩXXX66竹夫人,五月香六月婷婷激情综合,亚洲日本VA一区二区三区,亚洲精品一区二区三区麻豆

成都創(chuàng)新互聯(lián)網站制作重慶分公司

用Partition函數怎么實現(xiàn)Hive動態(tài)分區(qū)

這篇文章主要講解了“用Partition函數怎么實現(xiàn)Hive動態(tài)分區(qū)”,文中的講解內容簡單清晰,易于學習與理解,下面請大家跟著小編的思路慢慢深入,一起來研究和學習“用Partition函數怎么實現(xiàn)Hive動態(tài)分區(qū)”吧!

為修武等地區(qū)用戶提供了全套網頁設計制作服務,及修武網站建設行業(yè)解決方案。主營業(yè)務為成都網站制作、做網站、修武網站設計,以傳統(tǒng)方式定制建設網站,并提供域名空間備案等一條龍服務,秉承以專業(yè)、用心的態(tài)度為用戶提供真誠的服務。我們深信只要達到每一位用戶的要求,就會得到認可,從而選擇與我們長期合作。這樣,我們也可以走得更遠!

一、前段時間因為導表需求(從一張表中查找出數據,按日期分區(qū)overwrite 到指定分區(qū)表中),在Hive里面研究了一下自動分區(qū)。

步驟:

         1、建好所需分區(qū)表

         2、設置分區(qū)參數

set hive.exec.dynamic.partition=true;(可通過這個語句查看:set hive.exec.dynamic.partition;) 
set hive.exec.dynamic.partition.mode=nonstrict; 
SET hive.exec.max.dynamic.partitions=100000;(如果自動分區(qū)數大于這個參數,將會報錯)
SET hive.exec.max.dynamic.partitions.pernode=100000;

         3、書寫代碼(特別注意:日期字段一定要放在末尾),例如:

INSERT OVERWRITE TABLE dw_stage.ds_info_msg partition(cal_dt)
select id        
       ,...
       ,pv
       ,0  uv
       ,cal_dt
from   dw_stage.tiny_info_msg

二、如果要在partition字段用函數處理也可通過通過這種方式實現(xiàn);例如:

set hive.exec.dynamic.partition=true;
set hive.exec.dynamic.partition.mode=nostrick;
INSERT OVERWRITE TABLE dw_stage.ds_info_msg partition(cal_dt)
SELECT id    
       ,...
       ,pv
       ,date_sub('2014-03-23',7) cal_dt
FROM   dw_stage.tiny_info_msg07;

感謝各位的閱讀,以上就是“用Partition函數怎么實現(xiàn)Hive動態(tài)分區(qū)”的內容了,經過本文的學習后,相信大家對用Partition函數怎么實現(xiàn)Hive動態(tài)分區(qū)這一問題有了更深刻的體會,具體使用情況還需要大家實踐驗證。這里是創(chuàng)新互聯(lián),小編將為大家推送更多相關知識點的文章,歡迎關注!


分享文章:用Partition函數怎么實現(xiàn)Hive動態(tài)分區(qū)
文章轉載:http://weahome.cn/article/jegodg.html

其他資訊

在線咨詢

微信咨詢

電話咨詢

028-86922220(工作日)

18980820575(7×24)

提交需求

返回頂部