php - logstash寫入資料到elasticsearch 出現資料遺失怎麼解決

Question

我日誌裡有600多條資料 但是寫到elasticsearch裡只有300多條
這是什麼原因造成的 有大神知道嘛？
這個是我的設定
input {

file {
    path => ["／usr/local/20170730.log"]
    type => "log_test_events"
    tags => ["log_tes_events"]
    start_position => "beginning"
    sincedb_path => "/data/logstash/sincedb/test.sincedb"
    codec => "json"
    close_older => "86400"
    #1 day
    ignore_older => "86400"
}
beats{port => 5044}

}
filter {

urldecode {
    all_fields => true
}

}

output{

   elasticsearch {
      hosts  => "localhost:9200"
      index  => "logstash_%{event_date}"
}

stdout { codec => json }
}

#

Answer 1

因為讀取日誌的時候es的模版根據資料的格式自動建立資料型別 例如欄位a的值為int和字串 他所建立的索引第一個讀取到是數字就是int型別 索引

修改配置 做映射
output {

      elasticsearch {
        hosts  => "localhost:9200"
        index  => "test1"
        manage_template => true
        template_overwrite => true
        template => "/usr/local/logstash/templates/stat_day.json"
     }
     

stat_day.json模版格式

     {

"order" : 1,
"template" : "test1",
"mappings" : {

 "log_test": {
      "properties" : {
            "event_id": { "type": "string"}
       }
  }

}
}