Kratos原生zap日志进不了ELK,因其默认输出非结构化key-value文本,Logstash无法稳定解析;必须封装ZapLogger实现log.Logger接口,强制使用JSON Encoder并统一字段名(如"timestamp""level"),确保每行JSON完整、字段对齐下游pipeline。

Kratos 微服务不能直接把 zap.Logger 塞给 ELK,必须先让它“说人话”——即输出结构化、可被 Filebeat 或 Logstash 解析的 JSON 日志,并确保字段名与下游 pipeline 对齐。否则日志进 ES 后全是 message 字段里一团乱码,查无可查。
为什么 Kratos 原生 zap 日志进不了 ELK?
Kratos 的 log.Logger 接口只认 Log(level, keyvals interface{}) 方法,而原生 *zap.Logger 不实现它;即使你绕过接口 panic 强行传入,输出格式仍是 zap 默认的 key-value 行内文本(如 level=info msg="started" trace_id=abc123),Logstash 的 grok 或 json 插件根本无法稳定解析。
更关键的是:ELK 链路依赖字段结构一致性。比如 trace_id、service_name、http_status 这些字段如果混在 message 里,Kibana 就没法做聚合、过滤或下钻分析。
所以第一步不是配 Filebeat,而是让 Kratos 日志“长成 ELK 认得的样子”:
- 必须封装
ZapLogger实现log.Logger接口,且Log()方法中强制用zapcore.JSONEncoder -
keyvals必须转为zap.Field列表,禁止用fmt.Sprintf拼接字符串丢进msg - 所有业务关键字段(如
trace_id、user_id)必须通过zlogger.With()注入,不能靠中间件写进context后再手动取 —— Kratos 的log.NewHelper()不会自动展开 context 里的值
怎么配置 zap 输出 JSON 并对齐 ELK 字段?
别用 zap.NewProduction(),它默认用 consoleEncoder,输出的是带颜色的可读文本。必须显式指定 zapcore.EncoderConfig,并把字段名映射成 Logstash 习惯的命名(小写+下划线):
encoderCfg := zapcore.EncoderConfig{
TimeKey: "timestamp",
LevelKey: "level",
NameKey: "logger",
CallerKey: "caller",
MessageKey: "message",
StacktraceKey: "stacktrace",
EncodeTime: zapcore.ISO8601TimeEncoder,
EncodeLevel: zapcore.LowercaseLevelEncoder,
EncodeDuration: zapcore.SecondsDurationEncoder,
EncodeCaller: zapcore.ShortCallerEncoder,
}
重点改这三处:
-
TimeKey: "timestamp"→ Logstash 的date插件默认认这个 key -
LevelKey: "level"→ Kibana 的可视化里常用level: "error"过滤 -
EncodeLevel: zapcore.LowercaseLevelEncoder→ 避免"INFO"和"info"混用导致聚合失败
然后用 lumberjack.Logger 包一层做轮转,再套 zapcore.AddSync,最后传给 zapcore.NewCore —— 这样输出才是纯 JSON 行,每行一个对象,Filebeat 才能按行切割。
Filebeat 怎么采集 Kratos 容器日志不丢字段?
Kratos 服务跑在 Kubernetes 里时,Filebeat 不能走 sidecar(太重),推荐 DaemonSet + container input,但要注意两个坑:
- 日志路径必须设为
/var/log/pods/*,不能写_ */ /*.log /var/log/containers/*.log—— 后者是软链,Filebeat v8+ 默认不跟随,会漏日志 - 必须加
processors提前补全 service 字段,因为容器日志本身不带服务名:processors: - add_fields: target: '' fields: service.name: 'user-service' env: 'prod' - 禁用
multiline:Kratos 的 zap JSON 日志单行即完整事件,开 multiline 反而会把 stacktrace 拆成多行,破坏 JSON 结构
Logstash 过滤器怎么避免 grok 失败?
如果你已确保 Filebeat 输出的是标准 JSON 行,Logstash 就不该用 grok,而应直通 json 插件:
filter {
json {
source => "message"
}
# 补充缺失字段(如没打 trace_id 的日志)
mutate {
add_field => { "trace_id" => "unknown" }
}
}
常见翻车点:
- 没关掉 Filebeat 的
json.keys_under_root: true,导致 Logstash 收到的是嵌套 JSON,json { source => "message" }解不出来 - Logstash JVM 内存设太小(
-Xms512m -Xmx512m),遇到大日志(如带完整 stacktrace 的 error)直接 OOM 丢数据 - ES output 没配
ilm_enabled => true,日志索引爆炸后手动删索引,一删删掉 Kibana 的 index pattern,仪表盘全白屏
真正难的不是把日志塞进 ELK,而是让每一行 JSON 的 schema 在整个链路里稳住:从 Kratos 的 With() 调用,到 Filebeat 的 add_fields,再到 Logstash 的 mutate,字段名、类型、是否必填,都得对齐。少一个 lowercase,Kibana 里就多一个 level: "ERROR" 和 level: "error" 的双胞胎聚合结果。











