正则不会写了研究了半天都没成功
zqc0512 回复了问题 • 3 人关注 • 2 个回复 • 2575 次浏览 • 2018-07-25 08:32
logstash.inputs.jdbc抽取mysql的2000万行表到es时中途报错 “IllegalArgumentException: HOUR_OF_DAY: 2 -> 3>”
huangjy 回复了问题 • 6 人关注 • 8 个回复 • 6267 次浏览 • 2018-10-11 18:24
logstash怎么获取某个字段的值,然后再对这个字段的值进行拆分,仅仅是这个字段的内容。
AndrewOYLK 回复了问题 • 2 人关注 • 1 个回复 • 7341 次浏览 • 2018-07-23 19:44
logstash 启动配置文件 no implicit conversion from nil to integer错误
soupsss 回复了问题 • 2 人关注 • 1 个回复 • 3162 次浏览 • 2018-08-20 13:53
ET001 不可不掌握的 Logstash 使用技巧
rockybean 发表了文章 • 3 个评论 • 3562 次浏览 • 2018-07-21 11:53
Logstash 是 Elastic Stack 中功能最强大的 ETL 工具,相较于 beats 家族,虽然它略显臃肿,但是强在功能丰富、处理能力强大。大家在使用的过程中肯定也体验过其启动时的慢吞吞,那么有什么办法可以减少等待 Logstash 的启动时间,提高编写其处理配置文件的效率呢?本文给大家推荐一个小技巧,帮助大家解决如下两个问题,让大家更好地与这个笨重的大家伙相处。
- 减少 Logstash 重启的次数,也就节省宝贵的时间
- 方便快捷地向 Logstash 输入需要处理的内容
1. 打开 reload 配置开关
Logstash 启动的时候可以加上-r
的参数来做到配置文件热加载,效果是:
- 当你修改了配置文件后,无需重启 Logstash 即可让新配置文件生效。
它的含义如下:
![](http://p8z8qq24s.bkt.clouddn.c ... 55.png)
当你写好配置文件,比如 test.conf ,启动命令如下:
bin/logstash -f test.conf -r
启动完毕,修改 test.conf 的内容并保存后,过 1 秒钟,你会发现 Logstash 端有类似如下日志输出(注意红色框标记的部分),此时说明 reload 的成功。
![](http://p8z8qq24s.bkt.clouddn.c ... 11.png)
如果你修改的配置文件有错误,会看到报错的日志,你可以根据错误提示修改。
![](http://p8z8qq24s.bkt.clouddn.c ... 55.png)
至此,第一个问题解决!
2. 使用 HTTP INPUT
编写配置文件的另一个痛点是需要针对不同格式的输入内容进行详细的测试,以防解析报错的情况出现。此时大家常用标准输入来解决这个问题(stdin input),但是标准输入对于文字编辑支持不太友好,而且配置文件热更新的功能也不支持标准输入。
在这里向大家推荐使用 http input 插件,配置如下:
<br /> input{<br /> http{<br /> port => 7474<br /> codec => "json"<br /> }<br /> }<br />
然后大家再用自己喜欢的 http 请求工具,比如 POSTMan、Insomnia 等向<a href="http://loclahost:7474" rel="nofollow" target="_blank">http://loclahost:7474</a>
发送待测试内容即可,如下是 Insomnia 的截图。
![](http://p8z8qq24s.bkt.clouddn.c ... 08.png)
至此,第二个问题也解决了。
3. 总结
相信看到这里,大家一定是跃跃欲试了,赶紧打开电脑,找到 Logstash,然后编辑 test.conf,输入如下内容:
<br /> input{<br /> http{<br /> port => 7474<br /> codec => "json"<br /> }<br /> }<br /> <br /> filter{<br /> <br /> }<br /> <br /> output{<br /> stdout{<br /> codec => rubydebug{<br /> metadata => true<br /> }<br /> }<br /> }<br />
然后执行启动命令:
bin/logstash -f test.conf -r
打开 Insomnia ,输入要测试的内容,点击发送,开始舒爽流畅的配置文件编写之旅吧!
![](http://p8z8qq24s.bkt.clouddn.c ... 24.png)
- 当你修改了配置文件后,无需重启 Logstash 即可让新配置文件生效。
logstash同步oracle到es问题请教
rochy 回复了问题 • 2 人关注 • 1 个回复 • 4850 次浏览 • 2018-07-20 11:41
logstash如何修改elasticsearch子文档的数组数据
zqc0512 回复了问题 • 2 人关注 • 1 个回复 • 2252 次浏览 • 2018-07-19 09:08
output es,index => "%{[@metadata][kafka][topic]}-%{+YYYY.MM.dd}"
回复匿名用户 回复了问题 • 1 人关注 • 1 个回复 • 3189 次浏览 • 2018-07-18 17:00
logstash:java.lang.OutOfMemoryError: Java heap space
aslan1011 回复了问题 • 2 人关注 • 1 个回复 • 5769 次浏览 • 2019-07-01 17:41
logstash 或者ELK 本身可以实现日志的去重筛选之类的需求吗?
zqc0512 回复了问题 • 2 人关注 • 1 个回复 • 3697 次浏览 • 2018-07-18 15:22
logstash-6.3.1 启动报错
elasticStack 回复了问题 • 4 人关注 • 3 个回复 • 2961 次浏览 • 2018-09-18 17:58
logstash怎样将这种日期类型09/Jul/2018:15:20:03 +0000转换成2018-07-09T15:20:03
回复fujun 发起了问题 • 1 人关注 • 0 个回复 • 4597 次浏览 • 2018-07-17 15:29
在数据采集服务器logstash读取文件向kafka写入无反应,在kafka本地写入可以成功
回复bigdata 发起了问题 • 1 人关注 • 0 个回复 • 1850 次浏览 • 2018-07-17 11:54
filebeat到logstash之间加一层Kafka后的日志格式问题
muou 回复了问题 • 3 人关注 • 2 个回复 • 3497 次浏览 • 2018-07-19 13:59