done分區(qū)指南
本文中含有需要您注意的重要提示信息,忽略該信息可能對(duì)您的業(yè)務(wù)造成影響,請(qǐng)務(wù)必仔細(xì)閱讀。
創(chuàng)建done分區(qū)
參考MaxCompute分區(qū),分區(qū)和列操作。
done分區(qū)自動(dòng)觸發(fā)回流
iGraph支持通過(guò)指定
.done
分區(qū)來(lái)標(biāo)示對(duì)應(yīng)分區(qū)可以回流.done
分區(qū)為一個(gè)無(wú)數(shù)據(jù)的空分區(qū),只用來(lái)提供標(biāo)識(shí)示例
ds=20160528這個(gè)分區(qū), 如果您認(rèn)為這個(gè)分區(qū)可以回流了,則需要產(chǎn)出對(duì)應(yīng)的done分區(qū): ds=20160528.done,
此時(shí),存在兩個(gè)分區(qū)ds=20160528和ds=20160528.done,數(shù)據(jù)在ds=20160528中
只支持?jǐn)?shù)字分區(qū),最好以時(shí)間命名如ds=20171111
不支持類似于ds=abc這種非數(shù)字分區(qū)
分區(qū)字段長(zhǎng)度小于16個(gè)字節(jié)
不符合規(guī)范者不保證回流的正確性
.done
分區(qū)產(chǎn)出間隔過(guò)小,不會(huì)被觸發(fā)同一個(gè)
.done
分區(qū)只會(huì)被觸發(fā)一次空分區(qū)不會(huì)被觸發(fā)
小時(shí)回流表可以只使用一級(jí)分區(qū),直接產(chǎn)出新的done分區(qū)即可,比如ds=2017101011.done或ds=2017101012.done
小時(shí)回流表若使用多級(jí)分區(qū)需要注意分區(qū)字段順序,ds字段要在hh字段之前
- 重要
1)務(wù)必保證
.done
在分區(qū)字符串的末尾,'hh=12.done/ds=20170909’為錯(cuò)誤格式:如ds=20110101/hh=11.done2)不解析分區(qū)內(nèi)容,不解析具體’ds’,‘dt’,'hh’之類的含義,在探測(cè)過(guò)程中只對(duì)所取分區(qū)按照字典序倒序探測(cè)
高級(jí)用法:如果傳遞odps分區(qū)的時(shí)候,想指定odps分區(qū)包含的全量數(shù)據(jù)的時(shí)間戳(這個(gè)主要用于全量+實(shí)時(shí)情況下全量切換完畢之后,從哪個(gè)時(shí)間點(diǎn)開(kāi)始回追增量數(shù)據(jù))[可選],可以將done分區(qū)格式定為:ds=20150105.base_timestamp#1505147960.done
base_timestamp#1505147960
為回追增量的起始時(shí)間戳格式,單位秒ds=20190606/hh=14.base_timestamp#1559802331.done
為小時(shí)分區(qū)的寫(xiě)法;全量+增量表在done分區(qū)觸發(fā)時(shí)未指定時(shí)間戳默認(rèn)使用觸發(fā)時(shí)間(檢測(cè)到done的時(shí)間)