MaxCompute支持對已有表的分區執行變更操作,如添加分區、刪除分區、修改分區值等,您可以根據實際業務場景執行相應操作。
MaxCompute SQL的分區操作命令如下。
操作 | 功能 | 角色 | 操作入口 |
為已存在的分區表新增分區。 | 具備修改表權限(Alter)的用戶 | 本文中的命令您可以在如下工具平臺執行: | |
修改分區表中分區的 | |||
修改分區表的分區值。 | |||
對分區表的分區進行合并,即同一個分區表下的多個分區合并成一個分區,同時刪除被合并的分區維度的信息,把數據移動到指定分區。 | |||
列出一張表中的所有分區。 | |||
查看某個分區表具體的分區的信息。 | |||
為已存在的分區表刪除分區。 | |||
清空指定分區的數據。 |
使用限制
目前支持TINYINT、SMALLINT、INT、BIGINT、CHAR、VARCHAR和STRING數據類型的字段設為分區列。
單表分區層級最多6級。
單表分區數最多允許60000個分區。
一次最多查詢分區數為10000個。
Transaction類型的分區表不支持merge partition操作。
Delta Table類型的非分區表不支持清空操作、不支持更改表的write.bucket.num屬性。
添加分區
為已存在的分區表新增分區。
限制條件
對于有多級分區的表,如果需要添加新的分區值,必須指明全部的分區。
僅支持新增分區值,不支持新增分區字段。
命令格式
ALTER TABLE <table_name> ADD [IF NOT EXISTS] PARTITION <pt_spec> [PARTITION <pt_spec> PARTITION <pt_spec>...];
參數說明
參數
是否必填
說明
table_name
是
待新增分區的分區表名稱。
IF NOT EXISTS
否
如果未指定IF NOT EXISTS而同名的分區已存在,會執行失敗并返回報錯。
pt_spec
是
新增的分區,格式為:
(partition_col1 = partition_col_value1, partition_col2 = partition_col_value2, ...)
。其中partition_col是分區字段,partition_col_value是分區值。分區字段不區分大小寫,分區值區分大小寫。使用示例
關于sale_detail表創建,詳情請參見創建sale_detail表。
示例1:給表sale_detail添加一個分區,用來存儲2013年12月杭州地區的銷售記錄。
ALTER TABLE sale_detail ADD IF NOT EXISTS PARTITION (sale_date='201312', region='hangzhou');
示例2:給表sale_detail同時添加兩個分區,用來存儲2013年12月北京和上海地區的銷售記錄。
ALTER TABLE sale_detail ADD IF NOT EXISTS PARTITION (sale_date='201312', region='beijing') PARTITION (sale_date='201312', region='shanghai');
示例3:給表sale_detail添加分區,僅指定一個分區字段sale_date,返回報錯,需要同時指定2個分區字段sale_date和region。
ALTER TABLE sale_detail ADD IF NOT EXISTS PARTITION (sale_date='20111011');
示例4:增加Delta Table表分區
--創建delta table表 CREATE TABLE mf_tt (pk BIGINT NOT NULL PRIMARY KEY, val BIGINT NOT NULL) PARTITIONED BY (dd STRING, hh STRING) TBLPROPERTIES ("transactional"="true"); --添加分區 ALTER TABLE mf_tt ADD PARTITION (dd='01', hh='01');
示例5:修改Delta Table表屬性
--更新bucket數據,目前只支持分區表,不支持非分區表 ALTER TABLE mf_tt3 SET tblproperties("write.bucket.num"="64"); --更新retain屬性 ALTER TABLE mf_tt3 SET tblproperties("acid.data.retain.hours"="60");
修改分區的更新時間
MaxCompute SQL提供touch
操作,用于修改分區表中分區的LastModifiedTime
。此操作會將LastModifiedTime
修改為當前時間。此時,MaxCompute會認為數據有變動,重新計算生命周期。
使用限制
對于有多級分區的表,必須指明全部的分區。
命令格式
ALTER TABLE <table_name> touch PARTITION (<pt_spec>);
參數說明
參數
是否必填
說明
table_name
是
待修改分區更新時間的分區表名稱。如果表不存在,則返回報錯。
pt_spec
是
需要修改更新時間的分區信息。格式為:
(partition_col1 = partition_col_value1, partition_col2 = partition_col_value2, ...)
。其中partition_col是分區字段,partition_col_value是分區值。如果指定的分區字段或分區值不存在,則返回報錯。使用示例
--修改表sale_detail的分區sale_date='201312', region='shanghai'的LastModifiedTime。 ALTER TABLE sale_detail touch PARTITION (sale_date='201312', region='shanghai');
修改分區值
MaxCompute SQL支持通過rename
操作更改分區表的分區值。
使用限制
不支持修改分區列的列名,只能修改分區列對應的值。
對于有多級分區的表,必須指明全部的分區。
命令格式
ALTER TABLE <table_name> PARTITION (<pt_spec>) rename TO PARTITION (<new_pt_spec>);
參數說明
參數
是否必填
說明
table_name
是
待修改分區值的表名稱。
pt_spec
是
需要修改分區值的分區信息。格式為:
(partition_col1 = partition_col_value1, partition_col2 = partition_col_value2, ...)
。其中partition_col是分區字段,partition_col_value是分區值。如果指定的分區字段或分區值不存在,則返回報錯。new_pt_spec
是
修改后的分區信息。格式為:
(partition_col1 = new_partition_col_value1, partition_col2 = new_partition_col_value2, ...)
。其中partition_col是分區字段,new_partition_col_value是新分區值。使用示例
--修改表sale_detail的分區值。 ALTER TABLE sale_detail PARTITION (sale_date = '201312', region = 'hangzhou') rename TO PARTITION (sale_date = '201310', region = 'beijing');
合并分區
MaxCompute SQL提供merge partition
對分區表的分區進行合并,即將同一個分區表下的多個分區合并成一個分區,同時刪除被合并的分區維度的信息,把數據移動到指定分區。
使用限制
不支持外部表,聚簇表合并后的分區會消除聚簇屬性。
一次性合并分區數量限制為4000個。
命令格式
ALTER TABLE <table_name> MERGE [IF EXISTS] PARTITION (<predicate>) [, PARTITION(<predicate2>) ...] overwrite PARTITION (<fullpartitionSpec>) [purge];
參數說明
參數
是否必填
說明
table_name
是
待合并分區的分區表名稱。
IF EXISTS
否
如果未指定IF EXISTS,且分區不存在,會執行失敗并返回報錯。如果指定IF EXISTS后不存在滿足
merge
條件的分區,則不生成新分區。如果運行過程中出現源數據被并發修改(包括insert
、rename
或drop
)時,即使指定IF EXISTS也會報錯。predicate
是
篩選待合并分區需要滿足的條件。
fullpartitionSpec
是
目標分區信息。
purge
否
可選關鍵字。選擇該字段,則會清理session目錄,默認清理3天內的日志。詳情請參見Purge。
使用示例
示例1:合并滿足指定條件的分區到目標分區。
--查看分區表的分區。 SHOW partitions intpstringstringstring; ds=20181101/hh=00/mm=00 ds=20181101/hh=00/mm=10 ds=20181101/hh=10/mm=00 ds=20181101/hh=10/mm=10 --合并所有滿足hh='00'的分區到hh='00',mm='00'中。 ALTER TABLE intpstringstringstring MERGE PARTITION(hh='00') overwrite PARTITION(ds='20181101', hh='00', mm='00'); --查看合并后的分區。 SHOW partitions intpstringstringstring; ds=20181101/hh=00/mm=00 ds=20181101/hh=10/mm=00 ds=20181101/hh=10/mm=10
示例2:合并指定的多個分區到目標分區。
--合并多個指定分區。 ALTER TABLE intpstringstringstring MERGE IF EXISTS PARTITION(ds='20181101', hh='00', mm='00'), PARTITION(ds='20181101', hh='10', mm='00'), partition(ds='20181101', hh='10', mm='10') overwrite partition(ds='20181101', hh='00', mm='00') purge; --查看分區表的分區。 SHOW partitions intpstringstringstring; ds=20181101/hh=00/mm=00
列出所有分區
列出一張表中的所有分區。當表不存在或為非分區表時,返回報錯。
命令格式
SHOW PARTITIONS <table_name>;
參數說明
table_name:必填。待查看分區信息的分區表名稱。
使用示例
-- 列出sale_detail中的所有分區。 SHOW PARTITIONS sale_detail;
返回結果如下。
sale_date=2023/region=china sale_date=2024/region=shanghai
查看分區信息
查看某個分區表具體的分區的信息。
命令格式
DESC <table_name> PARTITION (<pt_spec>);
參數說明
參數
是否必填
說明
table_name
是
待查看分區信息的分區表名稱。
pt_spec
是
待查看的分區信息。格式為
partition_col1=col1_value1, partition_col2=col2_value1...
。對于有多級分區的表,必須指明全部的分區值。使用示例
--查詢分區表sale_detail的分區信息。 DESC sale_detail PARTITION (sale_date='201312',region='hangzhou');
返回結果如下。
+------------------------------------------------------------------------------------+ | PartitionSize: 1234 | +------------------------------------------------------------------------------------+ | CreateTime: 2024-11-14 16:43:22 | | LastDDLTime: 2024-11-14 16:45:37 | | LastModifiedTime: 2024-11-14 16:45:37 | +------------------------------------------------------------------------------------+ OK
刪除分區
為已存在的分區表刪除分區。
MaxCompute支持通過條件篩選方式刪除分區。如果您希望一次性刪除符合某個規則條件的多個分區,可以使用表達式指定篩選條件,通過篩選條件匹配分區并批量刪除分區。
限制條件
每個分區過濾子句只能訪問一個分區列。
表達式用到的函數必須是內建的Scalar函數。
注意事項
刪除分區之后,MaxCompute項目的存儲量會降低。
您可以結合MaxCompute提供的生命周期功能,實現自動回收舊分區的能力。更多生命周期信息,請參見生命周期。
命令格式
未指定篩選條件
--一次刪除一個分區。 ALTER TABLE <table_name> DROP [IF EXISTS] PARTITION <pt_spec>; --一次刪除多個分區。 ALTER TABLE <table_name> DROP [IF EXISTS] PARTITION <pt_spec>,PARTITION <pt_spec>[,PARTITION <pt_spec>....];
指定篩選條件
ALTER TABLE <table_name> DROP [IF EXISTS] PARTITION <partition_filtercondition>;
參數說明
參數
是否必填
說明
table_name
是
待刪除分區的分區表名稱。
IF EXISTS
否
如果未指定if exists且分區不存在,則返回報錯。
pt_spec
是
刪除的分區。格式為:
(partition_col1 = partition_col_value1, partition_col2 = partition_col_value2, ...)
。其中partition_col是分區字段,partition_col_value是分區值。分區字段不區分大小寫,分區值區分大小寫。partition_filtercondition
否
指定篩選條件時必填。分區篩選條件,不區分大小寫。格式如下:
partition_filtercondition : PARTITION (<partition_col> <relational_operators> <partition_col_value>) | PARTITION (scalar(<partition_col>) <relational_operators> <partition_col_value>) | PARTITION (<partition_filtercondition1> AND|OR <partition_filtercondition2>) | PARTITION (NOT <partition_filtercondition>) | PARTITION (<partition_filtercondition1>)[,PARTITION (<partition_filtercondition2>), ...]
介紹如下:
partition_col:分區名稱。
relational_operators:關系運算符,詳情請參見運算符。
partition_col_value:分區列比較值或正則表達式,與分區列數據類型保持一致。
scalar():Scalar函數。Scalar函數基于輸入值生成對應的標量,對分區列的值(partition_col)進行處理后再按照指定的關系運算符relational_operators與partition_col_value做比較。
分區過濾條件支持邏輯運算符NOT、AND和OR。支持通過NOT過濾條件子句,取過濾規則的補集。支持多個過濾條件子句以AND或OR的關系組成整體分區匹配規則。
支持多個分區過濾子句,當多個分區過濾子句以英文逗號(,)分隔時,每個過濾子句的邏輯以OR的關系組成整體分區匹配規則。
使用示例
未指定篩選條件
--從表sale_detail中刪除一個分區,2013年12月杭州分區的銷售記錄。 ALTER TABLE sale_detail DROP IF EXISTS PARTITION(sale_date='201312',region='hangzhou'); --從表sale_detail中同時刪除兩個分區,2013年12月杭州和上海分區的銷售記錄。 ALTER TABLE sale_detail DROP IF EXISTS PARTITION(sale_date='201312',region='hangzhou'),PARTITION(sale_date='201312',region='shanghai');
指定篩選條件
--創建分區表 CREATE TABLE IF NOT EXISTS sale_detail( shop_name STRING, customer_id STRING, total_price DOUBLE) partitioned BY (sale_date STRING); --添加分區 ALTER TABLE sale_detail ADD if NOT EXISTS PARTITION (sale_date= '201910') PARTITION (sale_date= '201911') PARTITION (sale_date= '201912') PARTITION (sale_date= '202001') PARTITION (sale_date= '202002') PARTITION (sale_date= '202003') PARTITION (sale_date= '202004') PARTITION (sale_date= '202005') PARTITION (sale_date= '202006') PARTITION (sale_date= '202007'); --批量刪除分區 ALTER TABLE sale_detail DROP IF EXISTS PARTITION(sale_date < '201911'); ALTER TABLE sale_detail DROP IF EXISTS PARTITION(sale_date >= '202007'); ALTER TABLE sale_detail DROP IF EXISTS PARTITION(sale_date LIKE '20191%'); ALTER TABLE sale_detail DROP IF EXISTS PARTITION(sale_date IN ('202002','202004','202006')); ALTER TABLE sale_detail DROP IF EXISTS PARTITION(sale_date BETWEEN '202001' AND '202007'); ALTER TABLE sale_detail DROP IF EXISTS PARTITION(substr(sale_date, 1, 4) = '2020'); ALTER TABLE sale_detail DROP IF EXISTS PARTITION(sale_date < '201912' OR sale_date >= '202006'); ALTER TABLE sale_detail DROP IF EXISTS PARTITION(sale_date > '201912' AND sale_date <= '202004'); ALTER TABLE sale_detail DROP IF EXISTS PARTITION(NOT sale_date > '202004'); --支持多個分區過濾表達式,表達式之間是OR的關系 ALTER TABLE sale_detail DROP IF EXISTS PARTITION(sale_date < '201911'), PARTITION(sale_date >= '202007'); --添加其他格式分區 ALTER TABLE sale_detail ADD IF NOT EXISTS PARTITION (sale_date= '2019-10-05') PARTITION (sale_date= '2019-10-06') PARTITION (sale_date= '2019-10-07'); --批量刪除分區,使用正則表達式匹配分區。 ALTER TABLE sale_detail DROP IF EXISTS PARTITION(sale_date RLIKE '2019-\\d+-\\d+'); --創建多級分區表。 CREATE TABLE IF NOT EXISTS region_sale_detail( shop_name STRING, customer_id STRING, total_price DOUBLE) partitioned BY (sale_date STRING , region STRING ); --添加分區。 ALTER TABLE region_sale_detail ADD IF NOT EXISTS PARTITION (sale_date= '201910',region = 'shanghai') PARTITION (sale_date= '201911',region = 'shanghai') PARTITION (sale_date= '201912',region = 'shanghai') PARTITION (sale_date= '202001',region = 'shanghai') PARTITION (sale_date= '202002',region = 'shanghai') PARTITION (sale_date= '201910',region = 'beijing') PARTITION (sale_date= '201911',region = 'beijing') PARTITION (sale_date= '201912',region = 'beijing') PARTITION (sale_date= '202001',region = 'beijing') PARTITION (sale_date= '202002',region = 'beijing'); --執行如下語句批量刪除多級分區,兩個匹配條件是或的關系,會將sale_date小于201911或region等于beijing的分區都刪除掉。 ALTER TABLE region_sale_detail DROP IF EXISTS PARTITION(sale_date < '201911'),PARTITION(region = 'beijing'); --如果刪除sale_date小于201911且region等于beijing的分區,可以使用如下方法。 ALTER TABLE region_sale_detail DROP IF EXISTS PARTITION(sale_date < '201911', region = 'beijing');
批量刪除多級分區時,在一個
partition
過濾子句中,不能根據多個分區列編寫組合條件匹配分區,如下語句會報錯FAILED: ODPS-0130071:[1,82] Semantic analysis exception - invalid column reference region, partition expression must have one and only one column reference
。--分區過濾子句只能訪問一個分區列,如下語句報錯。 ALTER TABLE region_sale_detail DROP IF EXISTS PARTITION(sale_date < '201911' AND region = 'beijing');
清空分區數據
清空分區表中指定分區的數據。
MaxCompute支持通過條件篩選方式清空分區數據。如果您希望一次性刪除符合某個規則條件的一個或多個分區,可以使用表達式指定篩選條件,通過篩選條件匹配分區并批量清空分區數據。
命令格式
未指定篩選條件
TRUNCATE TABLE <table_name> PARTITION <pt_spec>[, PARTITION <pt_spec>....];
指定篩選條件
TRUNCATE TABLE <table_name> PARTITION <partition_filtercondition>;
參數說明
參數
是否必填
說明
table_name
是
待清空分區數據的分區表名稱。
pt_spec
是
待清空數據的分區。格式為:
(partition_col1 = partition_col_value1, partition_col2 = partition_col_value2, ...)
。其中partition_col是分區字段,partition_col_value是分區值。分區字段不區分大小寫,分區值區分大小寫。partition_filtercondition
否
指定篩選條件時必填。分區篩選條件,不區分大小寫。格式如下:
partition_filtercondition : PARTITION (<partition_col> <relational_operators> <partition_col_value>) | PARTITION (scalar(<partition_col>) <relational_operators> <partition_col_value>) | PARTITION (<partition_filtercondition1> AND|OR <partition_filtercondition2>) | PARTITION (NOT <partition_filtercondition>) | PARTITION (<partition_filtercondition1>)[,PARTITION (<partition_filtercondition2>), ...]
介紹如下:
partition_col:分區名稱。
relational_operators:關系運算符,詳情請參見運算符。
partition_col_value:分區列比較值或正則表達式,與分區列數據類型保持一致。
scalar():Scalar函數。Scalar函數基于輸入值生成對應的標量,對分區列的值(partition_col)進行處理后再按照指定的關系運算符relational_operators與partition_col_value做比較。
分區過濾條件支持邏輯運算符NOT、AND和OR。支持通過NOT過濾條件子句,取過濾規則的補集。支持多個過濾條件子句以AND或OR的關系組成整體分區匹配規則。
支持多個分區過濾子句,當多個分區過濾子句以英文逗號(,)分隔時,每個過濾子句的邏輯以OR的關系組成整體分區匹配規則。
使用示例
未指定篩選條件
--從表sale_detail中清空一個分區,清空2013年12月杭州地域的銷售記錄。 TRUNCATE TABLE sale_detail PARTITION(sale_date='201312',region='hangzhou'); --從表sale_detail中同時清空兩個分區,清空2013年12月杭州和上海地域的銷售記錄。 TRUNCATE TABLE sale_detail PARTITION(sale_date='201312',region='hangzhou'), PARTITION(sale_date='201312',region='shanghai');
指定篩選條件
--從表sale_detail中清空多個分區,清空杭州地域下sale_date以2013開頭的銷售記錄。 TRUNCATE TABLE sale_detail PARTITION(sale_date LIKE '2013%' AND region='hangzhou');
清空Delta Table非分區表
--清空非分區表,表類型必須為非分區表, 否則報錯 TRUNCATE TABLE mf_tt2;
相關文檔
更多關于表操作命令詳情,請參見: