日志服務支持采集服務器與應用、開源軟件、物聯網、移動端、標準協議、阿里云產品等多種來源的數據。本文列舉了日志服務所支持的數據來源。
采集方式
采集方式 | 說明 | 相關文檔 |
Logtail采集 | Logtail是日志服務提供的日志采集Agent,多年來一直承載著阿里巴巴集團重要服務的數據采集。每天采集數百萬臺服務器上的實時數據,日流量數十PB,并歷經多次雙十一挑戰。 | |
云產品日志采集 | 采集彈性計算、存儲服務、安全、數據庫等多種阿里云云產品的日志數據,包括云產品的操作信息、運行狀況、業務動態等信息。 | |
數據導入 | 導入OSS文件、Amazon S3文件、MySQL數據、Elasticsearch數據、Kafka數據等。 | |
其他采集方式 | 通過Kafka協議、Syslog協議、Loggie上傳日志到日志服務,通過WebTracking功能或者通過日志服務SDK上傳日志。 | |
采集常見日志 | 采集Log4j日志、Python日志、Node.js日志、WordPress日志、Unity3D日志。 |
數據來源
類別 | 場景 | 接入方式 | 相關文檔 |
Logtail | Kubernetes | ||
容器 | |||
主機文本日志采集 | |||
應用 | 程序輸出 | ||
訪問日志 | |||
鏈路跟蹤 | 無 | ||
時序數據 | 無 | ||
語言 | Java | 無 | |
Log4J Appender | 無 | ||
LogBack Appender | 無 | ||
C | 無 | ||
Python | 無 | ||
Python Logging | 無 | ||
PHP | 無 | ||
.Net | 無 | ||
C++ | 無 | ||
Go | 無 | ||
NodeJS | 無 | ||
JS | 無 | ||
OS | Linux | 無 | |
Windows | 無 | ||
Mac/Unix | 無 | ||
Docker文件 | 無 | ||
Docker輸出 | 無 | ||
數據庫 | MySQL Binlog | 無 | |
MySQL查詢 | 無 | ||
SQL Server查詢結果 | 無 | ||
PostgreSQL查詢結果 | 無 | ||
移動端 | iOS、Android | 無 | |
網頁 | 無 | ||
智能IoT | |||
標準協議 | HTTP 輪詢 | ||
Syslog | 無 | ||
Kafka | 無 | ||
OpenTelemetry | 無 | ||
數據導入 | OSS數據 | 無 | |
MySQL數據 | 無 | ||
Elasticsearch數據 | 無 | ||
Kafka數據 | 無 | ||
云監控數據 | 無 | ||
第三方 | Logstash | 無 | |
Flume | 無 | ||
Beats | 無 | ||
Fluentd | 無 | ||
Telegraf | 無 | ||
Loggie | 無 | ||
阿里云云產品 | ECS、OSS等阿里云產品日志 | 無 |
選擇網絡類型和接入點(Endpoint)
阿里云內網:阿里云內網為千兆共享網絡,日志數據通過阿里云內網傳輸比公網傳輸更快速、穩定,內網包括VPC和經典網絡。
公網:使用公網傳輸日志數據,不僅會受到網絡帶寬的限制,還可能會因網絡抖動、延遲、丟包等影響數據采集的速度和穩定性。
傳輸加速:利用阿里云CDN邊緣節點進行日志采集加速,相對公網采集在網絡延遲、穩定性上具有很大優勢。
不同網絡類型的使用場景,請參見選擇網絡。接入點(Endpoint)的列表,請參見服務接入點。開啟傳輸加速域名的步驟,請參見管理傳輸加速。
常見問題
專線方式接入應如何選擇網絡?
請選擇阿里云內網(經典網絡或專有網絡VPC)。
采集公網數據時能否采集公網IP地址?
您可以在Logstore屬性中開通記錄外網IP功能。更多信息,請參見創建Logstore。
將地域A上的ECS日志采集到地域B下日志服務Project中,應如何選擇網絡?
在地域A上的ECS中安裝地域B公網的版本Logtail,進行公網傳輸。其他情況下的網絡選擇,請參見選擇網絡。
如何快速判斷目標域名能否連接?
執行以下命令,如果有返回信息則表示可以聯通。
curl $myproject.cn-hangzhou.log.aliyuncs.com
$myproject
:Project名。cn-hangzhou.log.aliyuncs.com
:訪問接入點。