本文為您介紹阿里云數據湖構建(簡稱DLF)的功能變更。
2024-12版本
推出DLF 2.0 Hive Catalog,支持統一的元數據管理和權限管理,支持納管OSS-HDFS和OSS存儲。Hive Catalog所支持的湖表格式兼容 HMS,支持計算引擎使用 Paimon、Iceberg、Delta lake、Hudi 等湖格式。
DLF2.0 Paimon Catalog 推出文件目錄(Volume),支持Paimon ObjectTable,幫助一些更新要求不高的場景,實現對文件元數據的管理。
DLF2.0 Paimon Catalog 推出外表管理功能,支持讀取外部數據源。
DLF2.0 Paimon Catalog 推出視圖管理功能,降低查詢的復雜度。
功能分類 | 功能更新說明 |
元數據管理 |
|
權限管理 |
|
數據存儲 |
|
2024-09版本
推出DLF2.0 Paimon Catalog,提供全托管的Paimon元數據及存儲服務,支持統一的元數據管理、統一湖表格式、統一存儲、統一權限配置,并提供存儲概覽分析以及存儲優化功能。并且與阿里云上多種流批計算引擎、大數據開發平臺及AI平臺實現了深度集成;支持湖倉存儲一體化、流批加工一體化以及大數據與AI一體化的架構;支持所有產品共享一套湖上元數據和存儲服務,采用統一的權限配置和存儲優化策略。
功能分類 | 功能更新說明 |
完成OpenLake解決方案對接 | 支持EMR Serverless Spark、EMR Serverless StarRocks、實時計算Flink版、MaxCompute、Hologres、DataWorks、PAI、OpenSearch產品的集成。 |
元數據管理 |
|
權限管理 |
|
數據存儲 |
|
存儲分析 |
|
存儲優化 |
|