Fluentd¶
视图预览¶
版本支持¶
操作系统支持：Windows/AMD 64, Windows/386, Linux/ARM, Linux/ARM 64, Linux/386, Linux/AMD 64, Darwin/AMD 64
安装部署¶
说明：示例 Fluentd 版本为 td-agent 4.2.0 (CentOS)，各个不同版本指标可能存在差异。
前置条件¶
- <安装 DataKit>
- 服务器 <安装 DataFlux Func 携带版>
- Fluentd 有一个监控代理，可以通过 HTTP 检索 JSON 格式的内部指标。
将以下行添加到您的 Fluentd 中开启的 plugin 插件配置文件中：
可以根据需要 plugin 的多少来动态调整端口配置
重新启动您的 td-agent 组件并通过HTTP获取指标：
$ curl http://host:24220/api/plugins.json
{
"plugins":[
{
"plugin_id":"object:3fec669d6ac4",
"type":"forward",
"output_plugin":false,
"config":{
"type":"forward"
}
},
{
"plugin_id":"object:3fec669dfa48",
"type":"monitor_agent",
"output_plugin":false,
"config":{
"type":"monitor_agent",
"port":"24220"
}
},
{
"plugin_id":"object:3fec66aead48",
"type":"forward",
"output_plugin":true,
"buffer_queue_length":0,
"buffer_total_queued_size":0,
"retry_count":0,
"config":{
"type":"forward",
"host":"192.168.0.11"
}
}
]
}
配置实施¶
指标采集 (必选)¶
1、 登录 Func，地址 http://ip:8088（默认 admin/admin）
2、 配置 DataKit 数据源进行数据上报
3、 输入标题/描述信息
4、 编辑脚本
import requests
import socket
@DFF.API('get_fluentd_metrics')
defget_fluentd_metrics():
#链接本地 DataKit
datakit = DFF.SRC('datakit')
sidecar = DFF.SRC('sidecar')
hostname = sidecar.shell('hostname')[1]["data"]["stdout"].rstrip()
print(type(hostname))
response = requests.get("http://172.17.0.1:24220/api/plugins.json")
result = response.json()["plugins"]
tag = result[0]
metrics = result[2]
print(tag["config"]["port"])
measurement ="Fluentd"
tags ={
"agent_port":tag["config"]["port"],
"host":hostname,
}
if'buffer_queue_length'in metrics.keys():
fields ={
"buffer_queue_length":metrics["buffer_queue_length"],
"buffer_total_queued_size":metrics["buffer_total_queued_size"],
"retry_count":metrics["retry_count"],
"emit_records":metrics["emit_records"],
"emit_count":metrics["emit_count"],
"write_count":metrics["write_count"],
"rollback_count":metrics["rollback_count"],
"slow_flush_count":metrics["slow_flush_count"],
"flush_time_count":metrics["flush_time_count"],
"buffer_stage_length":metrics["buffer_stage_length"],
"buffer_stage_byte_size":metrics["buffer_stage_byte_size"],
"buffer_queue_byte_size":metrics["buffer_queue_byte_size"],
"buffer_available_buffer_space_ratios":metrics["buffer_available_buffer_space_ratios"],
}
else:
fields ={
"retry_count":metrics["retry_count"],
"emit_records":metrics["emit_records"],
"emit_count":metrics["emit_count"],
"write_count":metrics["write_count"],
"rollback_count":metrics["rollback_count"],
"slow_flush_count":metrics["slow_flush_count"],
"flush_time_count":metrics["flush_time_count"],
}
try:
status_code, result = datakit.write_metric(measurement=measurement, tags=tags, fields=fields)
print(measurement, tags, fields, status_code, result)
except:
print("插入失败！")
可以根据开启的 Fluentd plugin 的数量动态调整任务数，每一个 plugin 就需要将该段代码复制粘贴一份更改 response = requests.get("http://172.17.0.1:24220/api/plugins.json")) 中的API 端口链接配置为 Fluentd 中配置开启 Monitor source 中的端口，并且同时配置定时调度完成指标收集。
5、 在管理中新建自动触发执行进行函数调度
选择刚刚编写好的执行函数设置定时任务，添加有效期有点击保存即可。
定时任务最短1分钟触发一次，如果有特殊需求可以使用 while + sleep 的方式来提高数据采集频率。
6、 通过自动触发配置查看函数运行状态
如果显示已成功，那么恭喜您可以去 Studio 中查看您上报的指标了。
7、 DQL 验证
[root@df-solution-ecs-018 ~]# datakit -Q
dql > M::Fluentd LIMIT 1
-----------------[ r1.Fluentd.s1 ]-----------------
agent_port '24220'
buffer_available_buffer_space_ratios 100
buffer_queue_byte_size 0
buffer_queue_length 0
buffer_stage_byte_size 0
buffer_stage_length 0
buffer_total_queued_size 0
emit_count 72
emit_records 73
flush_time_count 16
host<nil>
retry_count 0
rollback_count 0
slow_flush_count 0
time2022-01-17 16:04:20 +0800 CST
write_count 16
---------
1 rows, 1 series, cost 14.671002ms
8、 指标预览
场景视图¶
<场景 - 新建仪表板 - 模板库 - 系统视图 - Fluentd 监控视图>
检测库¶
<监控 - 监控器 - 从模板新建 - Fluentd 检测库>
| 序号 | 规则名称 | 触发条件 | 级别 | 检测频率 |
|---|---|---|---|---|
| 1 | Fluentd 剩余缓冲区的可用空间 |
Fluentd 剩余缓冲区的可用空间使用率 < 10% |
紧急 | 1m |
| 2 | Fluentd 的 plugin 重试数过多 | Fluentd 的 plugin 重试数 > 10 | 紧急 | 1m |
指标详解¶
| 指标 | 描述 |
|---|---|
| fluentd.retry_count | Plugin的重试次数 |
| fluentd.buffer_queue_length | Plugin的缓冲区队列的长度 |
| fluentd.buffer_total_queued_size | Plugin的缓冲区队列的大小 |
| fluentd.emit_records | Plugin发出的记录总数 |
| fluentd.emit_count | Plugin输出插件中的发出事件总数 |
| fluentd.write_count | 输出插件中的write/try_write调用总数 |
| fluentd.rollback_count | 回滚的总数。回滚发生在写入/try_write失败时 |
| Fluentd.slow_flush_count | 慢速刷新的总数。当缓冲区刷新时间超过 slow_flush_log_threshold 时，此计数将增加 |
| fluentd.flush_time_count | 缓冲刷新的总时间（以毫秒为单位） |
| fluentd.buffer_stage_length | 分段缓冲区长度 |
| fluentd.buffer_stage_byte_size | 分段缓冲区的当前字节大小 |
| fluentd.buffer_queue_byte_size | 队列缓冲区的当前字节大小 |
| fluentd.buffer_available_buffer_space_ratios | 显示缓冲区的可用空间利用率 |
最佳实践¶
故障排查¶
<无数据上报排查>