2个index合并

Elasticsearchkennywu76 回复了问题 • 2 人关注 • 4 个回复 • 1783 次浏览 • 2017-04-06 14:52 • 来自相关话题

关于kibana的权限控制 登录等

Kibanakennywu76 回复了问题 • 3 人关注 • 1 个回复 • 2159 次浏览 • 2017-04-06 12:15 • 来自相关话题

ES节点memory lock重要性与实现方式

Elasticsearchzaqweb 发表了文章 • 0 个评论 • 2800 次浏览 • 2017-04-06 11:55 • 来自相关话题

看一下Elastic官网对开启 bootstrap.memory_lock的介绍:
 
Swapping is very bad for performance and for node stability and should be avoided at all costs. It can cause garbage collections to last for minutes instead of milliseconds and can cause nodes to respond slowly or even to disconnect from the cluster.                                                                   ----截取自官网

意思是说发生系统swapping的时候ES节点的性能会非常差,也会影响节点的稳定性。所以要不惜一切代价来避免swapping。swapping会导致Java GC的周期延迟从毫秒级恶化到分钟,更严重的是会引起节点响应延迟甚至脱离集群。                                                                      ----如果不了解到底什么是swapping的,可以找点Linux IO章节文章看看

 
1. 先检查一下你的各个ES节点是否开启了Mem_lock

GET 请求 /_nodes?filter_path=**.mlockall


{
  "nodes": {
    "dCH5FCpATRO7D1azyPhsRQ": {
      "process": {
        "mlockall": false
      }
    },
    "GoNfwnNzSwmJy3y1QdfluA": {
      "process": {
        "mlockall": false
      }
    },
    "ijW61kA-SAqnnVHjpTSw2w": {
      "process": {
        "mlockall": false
      }
    },
    "yHl9GUGbS46o4hwKvHpwnQ": {
      "process": {
        "mlockall": false
      }
    }
  }
}

上述返回内容,可见都没有开启mem_lock,集全随时都可能发生故障(尤其是集群正常运行了一段时间,莫名其妙的故障)
 
2. root权限执行ulimit -l unlimited

告诉操作系统可以无限制分配内存给一个进程

3.重新启动ES

[2017-04-06T11:51:14,840][INFO ][o.e.b.BootstrapCheck     ] [Portal_ES_Node10_0_36_49] bound or publishing to a non-loopback or non-link-local address, enforcing bootstrap checks
ERROR: bootstrap checks failed
memory locking requested for elasticsearch process but memory is not locked

 
4. 如果你遇到上面的错误,说明你还需要配置/etc/security/limits.conf
    增加下面3行到文件末尾,其中XXX表示当前用户

# allow user 'XXX' mlockall
XXX soft memlock unlimited
XXX hard memlock unlimited 查看全部
看一下Elastic官网对开启 bootstrap.memory_lock的介绍:
 
Swapping is very bad for performance and for node stability and should be avoided at all costs. It can cause garbage collections to last for minutes instead of milliseconds and can cause nodes to respond slowly or even to disconnect from the cluster.                                                                   ----截取自官网


意思是说发生系统swapping的时候ES节点的性能会非常差,也会影响节点的稳定性。所以要不惜一切代价来避免swapping。swapping会导致Java GC的周期延迟从毫秒级恶化到分钟,更严重的是会引起节点响应延迟甚至脱离集群。                                                                      ----如果不了解到底什么是swapping的,可以找点Linux IO章节文章看看


 
1. 先检查一下你的各个ES节点是否开启了Mem_lock


GET 请求 /_nodes?filter_path=**.mlockall



{
  "nodes": {
    "dCH5FCpATRO7D1azyPhsRQ": {
      "process": {
        "mlockall": false
      }
    },
    "GoNfwnNzSwmJy3y1QdfluA": {
      "process": {
        "mlockall": false
      }
    },
    "ijW61kA-SAqnnVHjpTSw2w": {
      "process": {
        "mlockall": false
      }
    },
    "yHl9GUGbS46o4hwKvHpwnQ": {
      "process": {
        "mlockall": false
      }
    }
  }
}


上述返回内容,可见都没有开启mem_lock,集全随时都可能发生故障(尤其是集群正常运行了一段时间,莫名其妙的故障)
 
2. root权限执行ulimit -l unlimited


告诉操作系统可以无限制分配内存给一个进程


3.重新启动ES


[2017-04-06T11:51:14,840][INFO ][o.e.b.BootstrapCheck     ] [Portal_ES_Node10_0_36_49] bound or publishing to a non-loopback or non-link-local address, enforcing bootstrap checks
ERROR: bootstrap checks failed
memory locking requested for elasticsearch process but memory is not locked


 
4. 如果你遇到上面的错误,说明你还需要配置/etc/security/limits.conf
    增加下面3行到文件末尾,其中XXX表示当前用户


# allow user 'XXX' mlockall
XXX soft memlock unlimited
XXX hard memlock unlimited


提高es索引速度

回复

Elasticsearchpaopao 发起了问题 • 1 人关注 • 0 个回复 • 1805 次浏览 • 2017-04-06 11:04 • 来自相关话题

elasticsearch适合做类似新闻评论的存储吗?

Elasticsearchhuigy 回复了问题 • 2 人关注 • 1 个回复 • 1569 次浏览 • 2017-04-05 23:25 • 来自相关话题

es5.0怎么配置同义词和拼音分词

回复

ElasticsearchMengPhantom 发起了问题 • 1 人关注 • 0 个回复 • 1586 次浏览 • 2017-04-05 17:13 • 来自相关话题

萌新求问,es分index还是分type?

ElasticsearchBrickXu 回复了问题 • 4 人关注 • 2 个回复 • 1883 次浏览 • 2017-04-05 14:52 • 来自相关话题

Logstash5怎么读kafka0.8版本的数据?

LogstashBrickXu 回复了问题 • 2 人关注 • 1 个回复 • 1790 次浏览 • 2017-04-05 14:50 • 来自相关话题

es分词排序问题

ElasticsearchMengPhantom 回复了问题 • 2 人关注 • 2 个回复 • 1563 次浏览 • 2017-04-05 14:26 • 来自相关话题

logstash是怎样消费kafka的日志的,是不停的消费,还是查询一次,消费一次。

Logstashsdoheji1234 回复了问题 • 3 人关注 • 1 个回复 • 1942 次浏览 • 2017-04-05 14:11 • 来自相关话题