ES节点memory lock重要性与实现方式
Elasticsearch • zaqweb 发表了文章 • 3 个评论 • 26764 次浏览 • 2017-04-06 11:55
Swapping is very bad for performance and for node stability and should be avoided at all costs. It can cause garbage collections to last for minutes instead of milliseconds and can cause nodes to respond slowly or even to disconnect from the cluster. ----截取自官网
意思是说发生系统swapping的时候ES节点的性能会非常差,也会影响节点的稳定性。所以要不惜一切代价来避免swapping。swapping会导致Java GC的周期延迟从毫秒级恶化到分钟,更严重的是会引起节点响应延迟甚至脱离集群。 ----如果不了解到底什么是swapping的,可以找点Linux IO章节文章看看
1. 先检查一下你的各个ES节点是否开启了Mem_lock
GET 请求 /_nodes?filter_path=**.mlockall
{
"nodes": {
"dCH5FCpATRO7D1azyPhsRQ": {
"process": {
"mlockall": false
}
},
"GoNfwnNzSwmJy3y1QdfluA": {
"process": {
"mlockall": false
}
},
"ijW61kA-SAqnnVHjpTSw2w": {
"process": {
"mlockall": false
}
},
"yHl9GUGbS46o4hwKvHpwnQ": {
"process": {
"mlockall": false
}
}
}
}
上述返回内容,可见都没有开启mem_lock,集全随时都可能发生故障(尤其是集群正常运行了一段时间,莫名其妙的故障)
2. root权限执行ulimit -l unlimited
告诉操作系统可以无限制分配内存给一个进程
3.重新启动ES
[2017-04-06T11:51:14,840][INFO ][o.e.b.BootstrapCheck ] [Portal_ES_Node10_0_36_49] bound or publishing to a non-loopback or non-link-local address, enforcing bootstrap checks
ERROR: bootstrap checks failed
memory locking requested for elasticsearch process but memory is not locked
4. 如果你遇到上面的错误,说明你还需要配置/etc/security/limits.conf
增加下面3行到文件末尾,其中XXX表示当前用户
# allow user 'XXX' mlockall
XXX soft memlock unlimited
XXX hard memlock unlimited
2个index合并
Elasticsearch • kennywu76 回复了问题 • 3 人关注 • 4 个回复 • 8336 次浏览 • 2017-04-06 14:52
提高es索引速度
Elasticsearch • ouyangchucai 回复了问题 • 6 人关注 • 3 个回复 • 7761 次浏览 • 2019-01-24 14:19
关于kibana的权限控制 登录等
Kibana • kennywu76 回复了问题 • 3 人关注 • 1 个回复 • 9019 次浏览 • 2017-04-06 12:15
kibana discover日志搜索的语法
Kibana • zouchao 回复了问题 • 2 人关注 • 1 个回复 • 7178 次浏览 • 2017-04-07 16:59
elasticsearch适合做类似新闻评论的存储吗?
Elasticsearch • huigy 回复了问题 • 2 人关注 • 1 个回复 • 4119 次浏览 • 2017-04-05 23:25
es5.0怎么配置同义词和拼音分词
回复Elasticsearch • MengPhantom 发起了问题 • 3 人关注 • 0 个回复 • 5052 次浏览 • 2017-04-05 17:13
做为接入方,你的痛点是什么?
Elasticsearch • Ricky_Lau 发表了文章 • 6 个评论 • 4363 次浏览 • 2017-04-05 10:49
100种让ES宕机的方法,请详细描述过程,且可复现的。
Elasticsearch • Ricky_Lau 发表了文章 • 6 个评论 • 4346 次浏览 • 2017-04-05 10:47
OOM:
方式1:
版本: all
深度分页和大数据量数据返回会导致OOM。
方式2:
版本: es 1.x
使用delete_by_query删除海量数据时,由于内部没有使用scroll模块,会由深度分页导致OOM
方式3:
版本: all
使用scroll返回大量数据导致OOM
OOM:
方式1:
版本: all
深度分页和大数据量数据返回会导致OOM。
方式2:
版本: es 1.x
使用delete_by_query删除海量数据时,由于内部没有使用scroll模块,会由深度分页导致OOM
方式3:
版本: all
使用scroll返回大量数据导致OOM
es分词排序问题
Elasticsearch • MengPhantom 回复了问题 • 2 人关注 • 2 个回复 • 5833 次浏览 • 2017-04-05 14:26
用ELK在Kibana中显示mongoDB rs.status 的部分属性
回复Logstash • camili 发起了问题 • 1 人关注 • 0 个回复 • 5361 次浏览 • 2017-04-02 14:54
如何用ElasticSearch对groupby后的结果进行distinct后的sort操作,相等于求topN?
回复Elasticsearch • enjoyhot 发起了问题 • 2 人关注 • 0 个回复 • 7432 次浏览 • 2017-04-01 22:51
es type中空值是否占空间问题?
回复Elasticsearch • free_firefly 发起了问题 • 1 人关注 • 0 个回复 • 4048 次浏览 • 2017-04-01 18:47
es的patter-tokenizer 设置$分隔符不生效问题
回复Elasticsearch • hellosearch 发起了问题 • 2 人关注 • 0 个回复 • 4409 次浏览 • 2017-04-01 17:23
elasticsearch5.2.0怎么查询count
Elasticsearch • nainc 回复了问题 • 3 人关注 • 2 个回复 • 12311 次浏览 • 2017-04-07 18:58

