日本熟妇hd丰满老熟妇,中文字幕一区二区三区在线不卡 ,亚洲成片在线观看,免费女同在线一区二区

數(shù)據(jù)加工快速入門(mén)

更新時(shí)間:

本文以網(wǎng)站訪問(wèn)日志為例,為您介紹完整的數(shù)據(jù)加工流程,幫助您快速熟悉數(shù)據(jù)加工功能及其操作。

前提條件

  • 已創(chuàng)建名為web-project的Project。具體操作,請(qǐng)參見(jiàn)創(chuàng)建項(xiàng)目Project。

  • 在Project(web-project)中創(chuàng)建名為website_log的源Logstore。具體操作,請(qǐng)參見(jiàn)創(chuàng)建Logstore

  • 已采集網(wǎng)站訪問(wèn)日志到源Logstore(website_log)。具體操作,請(qǐng)參見(jiàn)數(shù)據(jù)采集。

    您也可以使用數(shù)據(jù)實(shí)驗(yàn)室,數(shù)據(jù)實(shí)驗(yàn)室已提供模擬的網(wǎng)站訪問(wèn)日志。更多信息,請(qǐng)參見(jiàn)使用數(shù)據(jù)實(shí)驗(yàn)室。

  • 在Project(web-project)中創(chuàng)建目標(biāo)Logstore,具體說(shuō)明如下:

    目標(biāo)Logstore

    說(shuō)明

    website-success

    將訪問(wèn)成功的日志存儲(chǔ)到存儲(chǔ)目標(biāo)target-success對(duì)應(yīng)的Logstore(website-success)中。

    website-fail

    將訪問(wèn)失敗的日志存儲(chǔ)到存儲(chǔ)目標(biāo)target-fail對(duì)應(yīng)的Logstore(website-fail)中。

    website-etl

    將其他訪問(wèn)日志存儲(chǔ)到存儲(chǔ)目標(biāo)target0對(duì)應(yīng)的Logstore(website-etl)中。

  • 如果您使用的是RAM用戶,則需要先授予RAM用戶數(shù)據(jù)加工操作權(quán)限。具體操作,請(qǐng)參見(jiàn)授予RAM用戶數(shù)據(jù)加工操作權(quán)限

  • 已配置源Logstore和目標(biāo)Logstore的索引。具體操作,請(qǐng)參見(jiàn)創(chuàng)建索引

    重要

    數(shù)據(jù)加工任務(wù)不依賴索引,但若不配置索引,將無(wú)法執(zhí)行查詢和分析操作。

背景信息

某網(wǎng)站將其所有的訪問(wèn)日志存儲(chǔ)在一個(gè)Logstore中,現(xiàn)希望為訪問(wèn)成功的日志和訪問(wèn)失敗的日志設(shè)置不同的日志主題,并分發(fā)到不同的Logstore中,便于分析。日志樣例如下:

body_bytes_sent:1061
http_user_agent:Mozilla/5.0 (Windows; U; Windows NT 5.1; ru-RU) AppleWebKit/533.18.1 (KHTML, like Gecko) Version/5.0.2 Safari/533.18.5
remote_addr:192.0.2.2
remote_user:vd_yw
request_method:DELETE
request_uri:/request/path-1/file-5
status:207
time_local:10/Jun/2021:19:10:59

步驟一:創(chuàng)建數(shù)據(jù)加工任務(wù)

  1. 登錄日志服務(wù)控制臺(tái)。

  2. 進(jìn)入數(shù)據(jù)加工頁(yè)面。

    1. 在Project列表區(qū)域,單擊目標(biāo)Project。

    2. 日志存儲(chǔ) > 日志庫(kù)頁(yè)簽中,單擊目標(biāo)Logstore。

    3. 在查詢和分析頁(yè)面,單擊數(shù)據(jù)加工

  3. 在頁(yè)面右上角,選擇數(shù)據(jù)的時(shí)間范圍。

    選擇時(shí)間范圍后,請(qǐng)確認(rèn)原始日志頁(yè)簽中存在日志。

  4. 在編輯框中,輸入加工語(yǔ)句。

    e_if(e_search("status:[200,299]"),e_compose(e_set("__topic__","access_success_log"),e_output(name="target-success")))
    e_if(e_search("status:[400,499]"),e_compose(e_set("__topic__","access_fail_log"),e_output(name="target-fail")))

    e_if函數(shù)表示當(dāng)條件為真時(shí),執(zhí)行對(duì)應(yīng)的操作。更多信息,請(qǐng)參見(jiàn)e_if。

    • 條件:e_search("status:[200,299]")

      當(dāng)status字段值滿足條件時(shí),執(zhí)行操作1和操作2。更多信息,請(qǐng)參見(jiàn)e_search。

    • 操作1:e_set("__topic__","access_success_log")

      新增__topic__字段,并賦值access_success_log。更多信息,請(qǐng)參見(jiàn)e_set

    • 操作2:e_output(name="target-success", project="web-project", logstore="website-success")

      將加工后的數(shù)據(jù)保存到存儲(chǔ)目標(biāo)中,即存儲(chǔ)到名為website-success的Logstore中。更多信息,請(qǐng)參見(jiàn)e_output

  5. 預(yù)覽數(shù)據(jù)。

    1. 單擊快速。

      日志服務(wù)支持快速預(yù)覽和高級(jí)預(yù)覽。更多信息,請(qǐng)參見(jiàn)預(yù)覽調(diào)試概述。

    2. 單擊預(yù)覽數(shù)據(jù)。

      查看預(yù)覽結(jié)果。

      重要

      預(yù)覽時(shí)不會(huì)輸出日志到目標(biāo)Logstore中,而是輸出到名為internal-etl-log的Logstore中。internal-etl-log Logstore是您首次執(zhí)行數(shù)據(jù)加工預(yù)覽時(shí),系統(tǒng)在當(dāng)前Project下自動(dòng)創(chuàng)建的專屬Logstore,不支持修改配置及寫(xiě)入其他數(shù)據(jù),不收取任何費(fèi)用。

      預(yù)覽結(jié)果

  6. 創(chuàng)建數(shù)據(jù)加工任務(wù)。

    1. 單擊保存數(shù)據(jù)加工

    2. 創(chuàng)建數(shù)據(jù)加工任務(wù)面板,配置如下參數(shù)。

      image.png

      參數(shù)

      說(shuō)明

      任務(wù)名稱

      數(shù)據(jù)加工任務(wù)的名稱。

      授權(quán)方式

      您可以通過(guò)如下方式授予數(shù)據(jù)加工任務(wù)讀取源Logstore中數(shù)據(jù)的權(quán)限。

      • 默認(rèn)角色:授予數(shù)據(jù)加工任務(wù)使用阿里云系統(tǒng)角色AliyunLogETLRole來(lái)讀取源Logstore中的數(shù)據(jù)。

      • 自定義角色:授予數(shù)據(jù)加工任務(wù)使用自定義角色來(lái)讀取源Logstore中的數(shù)據(jù)。

        您需先授予自定義角色讀取源Logstore數(shù)據(jù)的權(quán)限,然后在角色ARN中輸入您自定義角色的ARN。如何授權(quán),請(qǐng)參見(jiàn)通過(guò)自定義角色訪問(wèn)數(shù)據(jù)。

      • 密鑰:授予數(shù)據(jù)加工任務(wù)使用阿里云賬號(hào)或RAM用戶的訪問(wèn)密鑰來(lái)讀取源Logstore中的數(shù)據(jù)。

        • 阿里云賬號(hào):阿里云賬號(hào)的訪問(wèn)密鑰具備源Logstore數(shù)據(jù)讀取權(quán)限,您在AccessKey IDAccessKey Secret中輸入阿里云賬號(hào)的訪問(wèn)密鑰即可。如何獲取訪問(wèn)密鑰,請(qǐng)參見(jiàn)訪問(wèn)密鑰。

        • RAM用戶:您需先授予RAM用戶讀取源Logstore數(shù)據(jù)的權(quán)限,然后在AccessKey IDAccessKey Secret中輸入RAM用戶的訪問(wèn)密鑰。如何授權(quán),請(qǐng)參見(jiàn)通過(guò)訪問(wèn)密鑰訪問(wèn)數(shù)據(jù)

      存儲(chǔ)目標(biāo)

      目標(biāo)名稱

      存儲(chǔ)目標(biāo)的名稱。存儲(chǔ)目標(biāo)中包括Project、Logstore等配置。

      需與步驟4中所配置的name一致。

      說(shuō)明

      日志服務(wù)默認(rèn)以序號(hào)1中配置的存儲(chǔ)目標(biāo)(本案例中為target0)為默認(rèn)存儲(chǔ)目標(biāo),用來(lái)存儲(chǔ)其他未符合條件的日志。

      目標(biāo)Region

      選擇目標(biāo)Project所在地域。

      跨地域數(shù)據(jù)加工使用HTTPS協(xié)議傳輸,確保日志數(shù)據(jù)的私密性。

      跨地域數(shù)據(jù)加工使用公網(wǎng)傳輸數(shù)據(jù),可能因?yàn)楣W(wǎng)傳輸網(wǎng)絡(luò)的不確定性導(dǎo)致加工任務(wù)出現(xiàn)延遲。您可以選中DCDN加速復(fù)選框,加快跨地域傳輸速度。在使用DCDN加速時(shí),需確保對(duì)應(yīng)的Project已開(kāi)啟加速功能。更多信息,請(qǐng)參見(jiàn)采集加速。

      重要

      從日志服務(wù)公網(wǎng)域名所在接口拉取數(shù)據(jù)時(shí),會(huì)產(chǎn)生外網(wǎng)讀取流量(按照壓縮后的數(shù)據(jù)量計(jì)算)。更多信息,請(qǐng)參見(jiàn)按使用功能計(jì)費(fèi)模式計(jì)費(fèi)項(xiàng)

      目標(biāo)Project

      用于存儲(chǔ)數(shù)據(jù)加工結(jié)果的目標(biāo)Project名稱。

      目標(biāo)庫(kù)

      用于存儲(chǔ)數(shù)據(jù)加工結(jié)果的目標(biāo)Logstore名稱。

      授權(quán)方式

      您可以通過(guò)如下方式授予數(shù)據(jù)加工任務(wù)寫(xiě)目標(biāo)Logstore的權(quán)限。

      • 默認(rèn)角色:授予數(shù)據(jù)加工任務(wù)使用阿里云系統(tǒng)角色AliyunLogETLRole將數(shù)據(jù)加工結(jié)果寫(xiě)入目標(biāo)Logstore。

      • 自定義角色:授予數(shù)據(jù)加工任務(wù)使用自定義角色將數(shù)據(jù)加工結(jié)果寫(xiě)入目標(biāo)Logstore。

        您需先授予自定義角色寫(xiě)數(shù)據(jù)到目標(biāo)Logstore的權(quán)限,然后在角色ARN中輸入您自定義角色的ARN。如何授權(quán),請(qǐng)參見(jiàn)通過(guò)自定義角色訪問(wèn)數(shù)據(jù)

      • 密鑰:授予數(shù)據(jù)加工任務(wù)使用阿里云賬號(hào)或RAM用戶的訪問(wèn)密鑰將數(shù)據(jù)加工結(jié)果寫(xiě)入目標(biāo)Logstore。

        • 阿里云賬號(hào):阿里云賬號(hào)的訪問(wèn)密鑰具備寫(xiě)數(shù)據(jù)到目標(biāo)Logstore的權(quán)限,您在AccessKey IDAccessKey Secret中輸入阿里云賬號(hào)的訪問(wèn)密鑰即可。如何獲取訪問(wèn)密鑰,請(qǐng)參見(jiàn)訪問(wèn)密鑰。

        • RAM用戶:您需先授予RAM用戶寫(xiě)數(shù)據(jù)到目標(biāo)Logstore的權(quán)限,然后在AccessKey IDAccessKey Secret中輸入RAM用戶的訪問(wèn)密鑰。如何授權(quán),請(qǐng)參見(jiàn)通過(guò)訪問(wèn)密鑰訪問(wèn)數(shù)據(jù)。

      加工范圍

      時(shí)間范圍

      指定數(shù)據(jù)加工任務(wù)的時(shí)間范圍,詳細(xì)說(shuō)明如下:

      說(shuō)明

      此處的時(shí)間范圍依賴日志的接收時(shí)間。

      • 所有:從Logstore接收到第一條日志的時(shí)間點(diǎn)開(kāi)始數(shù)據(jù)加工任務(wù),直到加工任務(wù)被手動(dòng)停止。

      • 某時(shí)間開(kāi)始:指定數(shù)據(jù)加工任務(wù)的開(kāi)始時(shí)間,從該時(shí)間點(diǎn)開(kāi)始加工,直到加工任務(wù)被手動(dòng)停止。

      • 特定時(shí)間范圍:指定數(shù)據(jù)加工任務(wù)的起止時(shí)間,加工任務(wù)執(zhí)行到指定時(shí)間后自動(dòng)停止。

    3. 單擊確定。

將日志分發(fā)到目標(biāo)Logstore后,您可以在目標(biāo)Logstore中執(zhí)行查詢和分析操作。具體操作,請(qǐng)參見(jiàn)查詢和分析日志。

步驟二:查看數(shù)據(jù)加工任務(wù)

  1. 在左側(cè)導(dǎo)航欄中,選擇任務(wù)管理 > 數(shù)據(jù)加工

  2. 在數(shù)據(jù)加工任務(wù)列表中,單擊目標(biāo)數(shù)據(jù)加工任務(wù)。

  3. 數(shù)據(jù)加工概覽頁(yè)面,查看數(shù)據(jù)加工任務(wù)詳情。

    您可以查看任務(wù)詳情與狀態(tài),修改、啟動(dòng)、停止和刪除任務(wù)等。具體操作,請(qǐng)參見(jiàn)管理數(shù)據(jù)加工任務(wù)

    加工任務(wù)