三个节点的ES集群,配置8c 16g,大概一秒100个并发,cpu使用率达到100%,求解
envy666 回复了问题 • 3 人关注 • 2 个回复 • 1312 次浏览 • 2022-03-25 12:07
elasticsearch 分索引后如何快速更新指定数据?
liujiacheng 回复了问题 • 2 人关注 • 1 个回复 • 1657 次浏览 • 2022-03-24 09:41
Elasticsearch认证培训及生产实战
yangmf2040 发表了文章 • 0 个评论 • 1684 次浏览 • 2022-03-23 17:10
课程定价:5500元(不含考试费)
上课方式:全程直播
开课时间:2022年6月11日、12日、18日、19日、25日,周六日直播上课,每天9:00~12:00,14:00~18:00
咨询方式:
孟老师
电话:18811088238
微信二维码:
课程简介
首先,分别介绍:Elasticsearch、ECE认证:
- Elasticsearch 是一个分布式的免费开源搜索和分析引擎,适用于包括文本、数字、地理空间、结构化和非结构化数据等在内的所有类型的数据。Elasticsearch 在 Apache Lucene 的基础上开发而成,由 Elasticsearch N.V.(即现在的 Elastic)于 2010 年首次发布。Elasticsearch 以其简单的 REST 风格 API、分布式特性、速度和可扩展性而闻名,是 Elastic Stack 的核心组件;Elastic Stack 是一套适用于数据采集、扩充、存储、分析和可视化的免费开源工具。人们通常将 Elastic Stack 称为 ELK Stack(代指 Elasticsearch、Logstash 和 Kibana),目前 Elastic Stack 包括一系列丰富的轻量型数据采集代理,这些代理统称为 Beats,可用来向 Elasticsearch 发送数据。
- 管理员认证计划ECE(Elastic Certifled Engineer),通过 ECE认证的工程师说明已经满足对Elasticsearch进行管理的能力,可胜任Elasticsearch相关工作,同时也是Elasticsearch工作道路上的敲门砖。
课程特色:少有的生产落地实践
- 讲师更加权威:具有多年的云原生与Elastic的售前架构设计与项目落地经验,并具备云原生与Elastic相关认证。
- 实践落地为先:课程包含了ECE(Elastic Certifled Engineer)认证与Elastic多种应用场景在项目中的架构设计与落地。
适配岗位
适合人群
本次课程适用从事技术实施工程师、开发人员、运维工程师,课程学完后可以掌握Elastic在企业中的项目落地与最佳实践,如:日志搜集与全观测、全文搜索、数据库加速技术场景的掌握。帮助学员快速掌握Elastic的理论知识和专业技能,从容面对Elastic认证考试以及在Elastic领域的职业挑战。
课程大纲
第一阶段 Elasticsearch环境搭建
第一课 初识Elasticsearch
- Elasticsearch发展史
- Elasticsearch应用场景
- Elasticsearch核心概念讲解
第二课 节点类型
- 节点类型介绍
- 节点类型配置
第三课 ElasticSearch集群搭建和kibana可视化界面部署
- 基础环境配置
- 配置文件讲解
第二阶段 ElasticSearch数据建模
第四课 index & document
- 倒排索引介绍
- index创建与删除
- index关闭与开启
- 数据更新
第五课 Reindex
- Reindex概述
- Reindex实践
第六课 Mapping
- 动态映射(dynamic mapping)
- 显示映射(Explicit mapping)
- Runtime fields
- 常用字段数据类型
- 元数据字段讲解
- 常用映射参数讲解
第七课 Analysis
- Character filter
- Tokenizer
- TokenFilter
- 自定义文本分词器
第八课 索引模板(index template)与索引别名(Alias)
- 索引模板的创建与使用
- 索引别名的创建与使用
第九课 索引声明周期管理(ILM)
- ILM概述
- ILM创建及使用
- ILM常用管理操作
第十课 Data stream(数据流)
- 设置数据流
- 使用数据流
- 更改数据流的映射和设置
第十一课 Ingest pipline
- Ingest pipline 概述
- Ingest pipline 使用案例
- 常见processors
第三阶段 ElasticSearch数据查询
第十二课 Full text query(全文查询)
- Match查询
- Match phrase查询
- Multi match多字段查询
- Query string 字符串查询
- Simple querystring 简单字符串查询
第十三课 Compound query(复合查询)
- Boolean 布尔查询
- Boosting 加权查询
- Constant score 固定分值查询
- Disjunction max 单字符串多字段查询
- Function score 优化算分查询
第十四课 joining query
- Nested 嵌套
- 文档父子关联关系
第十五课 Aggregation(聚和分析)
- Bucket聚和查询
- Metrics 聚和查询
- Pipline 聚和分析
第十六课 Search your data
- 高量显示
- 分页查询
- 对查询结果进行排序
- 跨集群搜索与复制
- 搜索模板
第四阶段 集群管理
第十七课 User & Role
- Security 安全认证配置
- 创建用户角色
- 创建用户
第十八课 快照与恢复
- 创建快照
- 恢复快照
- 删除快照
第十九课 生产集群落地
- 节点角色规划
- 节点资源规划
- 集群升级
- 集群扩容
- 集群性能调优
第二十课 常见运维操作
- 常见问题及解决方案
第二十一课 多集群监控管理实战
- 使用prometheus实现ElasticSearch多集群监控
- 使用极限平台实现ElasticSearch多集群监控
第二十二课:kibana
- kibana概述
- Kibana高可用部署架构与dashboard管理
第四阶段 项目实战
日志搜集项目实战
数据库加速项目实战
第五阶段 ECE认证
- 如何报名考试
- 参加考试注意事项
- 考前模拟练习
ElasticSearch沉底 排序如何做
spoofer 回复了问题 • 2 人关注 • 1 个回复 • 1081 次浏览 • 2022-04-02 10:01
通过快照还原了集群数据, 还原后集群为红色, 有一个主分片提示异常,再重新导入数据,提示异常
God_lockin 回复了问题 • 2 人关注 • 1 个回复 • 1187 次浏览 • 2022-03-22 09:34
Elasticsearch 使用Java Api 查询复杂对象(对象里面有对象数组)
God_lockin 回复了问题 • 2 人关注 • 1 个回复 • 1717 次浏览 • 2022-03-22 09:42
ES有快照数据文件, 但是在快照仓库中找不到快照,怎么处理?
God_lockin 回复了问题 • 2 人关注 • 1 个回复 • 1268 次浏览 • 2022-03-22 09:43
ES无法读取存储库数据,因为存储库的内容与其预期状态不匹配,怎么解决?
Charele 回复了问题 • 3 人关注 • 1 个回复 • 2127 次浏览 • 2022-03-17 14:35
elasticsearch [[node.max_local_storage_nodes] (was [1])
yimusidian 回复了问题 • 2 人关注 • 2 个回复 • 3937 次浏览 • 2022-03-25 16:07
您好 能请教下中文排序的问题吗
medcl 回复了问题 • 2 人关注 • 1 个回复 • 958 次浏览 • 2022-04-02 13:23
ES数据迁移问题,从两台服务器迁移到另外两台上
tongchuan1992 回复了问题 • 2 人关注 • 1 个回复 • 1618 次浏览 • 2022-03-14 19:01
Elastic日报 第1344期 (2021-03-12)
taoxiyang 发表了文章 • 3 个评论 • 1062 次浏览 • 2022-03-12 20:54
https://www.alibabacloud.com/h ... 2.htm
2. 创建Elasticsearch数据清洗任务,将RavenDB中的数据处理到Elasticsearch
https://ravendb.net/docs/artic ... earch
3. 用DbVisualizer管理Elasticsearch的数据
https://www.dbvis.com/database/elasticsearch/
编辑:陶希阳
归档:https://ela.st/cn-daily-all
订阅:https://ela.st/cn-daily-sub
沙龙:https://ela.st/cn-meetup
有了这两个小脚本,不需要再傻乎乎地手动安装 Elasticsearch了
spoofer 发表了文章 • 0 个评论 • 2428 次浏览 • 2022-03-11 19:40
在学习 ES 前一般都需要安装 ES,虽然 ES 可以开箱即用,但如果要学习分布式特性的时候,需要安装多个节点,这个时候还是有点工作量的。下面提供两个小脚本,一个是在 Ubuntu 中安装 3 节点的 ES 伪集群,一个是在 docker 中安装3节点 ES 集群。除了安装 ES 外,脚本还提供了对应版本的 Kibana、Cerebro 0.9.4 的安装。
1、在 Ubuntu 中安装 ES 7.13
这里我们采取下载 ES 安装包并且解压安装的方式,并没有走 Ubuntu apt 的方式。ES 的安装非常简单,这里先献上[安装脚本](https://gitee.com/dgl/es-bookl ... rEs.sh)。
下面介绍比较重要的配置项:
- discovery.seed_hosts 在开箱即用的情境下(本机环境)无需配置,ES 会自动扫描本机的 9300 到 9305 端口。一旦进行了网络环境配置,这个自动扫描操作就不会执行。discovery.seed_hosts 配置为 master 候选者节点即可。如果需要指定端口的话,其值可以为:["localhost:9300", "localhost:9301"]
- cluster.initial_master_nodes 指定新集群 master 候选者列表,其值为节点的名字列表。如果配置了 node.name: my_node_1,所以其值为 ["my_node_1"],而不是 ip 列表 !
- network.host 和 http.port 是 ES 提供服务的监听地址和端口,线上一定不能配置 ip 为 0.0.0.0,这是非常危险的行为!!!
怎么样来理解这个 discovery.seed_hosts 和 cluster.initial_master_nodes 呢?
cluster.initial_master_nodes 是候选者列表,一般我们线上环境候选者的数量比较少,毕竟是用来做备用的。而且这个配置只跟选举 master 有关,也就是跟其他类型的节点没有关系。就算你有100个数据节点,然后经常增加或者剔除都不需要动这个列表。
discovery.seed_hosts 这个可以理解为是做服务或者节点发现的,其他节点必须知道他们才能进入集群~ 一般配置为集群的master 候选者的列表。
但是这些 master 候选者(组织联系人)可能经常变化,那怎么办呢?这个配置项除了支持 ip 外还支持域名 ~所以可以用域名来解决这个问题,其他节点的配置上写的是域名,域名解析到对应的 ip,如果机器挂了,新的节点 ip 换了,就把域名解析到新的ip即可,这样其他节点的配就不用修改了。所以非 master 候选节点要配 discovery.seed_hosts (组织联系人)
除了修改 ES 服务配置外,还需要配置 JVM 的配置,我们主要配置服务占用的堆内存的大小。JVM 配置需要以下几点: - 这两个 jvm 的配置必须配置一样的数值。启动时就分配好内存空间,避免运行时申请分配内存造成系统抖动。
- Xmx不要超过机器内存的 50%,留下些内存供 JVM 堆外内存使用
- 并且Xmx不要超过 32G。建议最大配置为 30G。接近 32G,JVM 会启用压缩对象指针的功能,导致性能下降。具体可以参考:[a-heap-of-trouble](https://www.elastic.co/cn/blog/a-heap-of-trouble)。
安装成功后,可以访问:
ES:localhost:9211
Kibana: localhost:5601
cerebro: localhost:9800
2、在docker 中安装 ES 7.13
在做一切工作之前,我们必须安装 docker。如果你已经安装好了 docker、docker-compose,可以访问我为你准备的 [docker-compose.yaml](https://gitee.com/dgl/es-bookl ... e.yaml) 文件。
如果你没有安装 docker,完整的教程可以参考[在 docker 中安装 ES 文档](https://gitee.com/dgl/es-bookl ... bro.md)。
下载此文件,将文件保存为 docker-compose.yaml 后,进入这个文件的目录,执行以下指令即可:
<br /> docker-compose up<br />
如果你没有下载镜像文件,docker-compose 会自动帮你下载镜像,并且启动容器。
如果 docker-compose 启动失败,说是无权限链接 docker 的话,其报错如下:
<br /> Got permission denied while trying to connect to the Docker daemon socket at unix:///var/run/docker.sock: <br /> <br /> Get " <br /> <br /> dial unix /var/run/docker.sock: connect: permission denied<br />
可以运行以下指令临时修改:
<br /> sudo chmod 666 /var/run/docker.sock<br /> <br />
其原因是因为你的 docker 用了 root 启动了。
最后可以访问:
cerebro:ip:9000
Kibana:ip:5601
Elasticsearch: ip:9200,ip:9202,ip:9203
其他学习资料
[创建自己的 ES Docker Image](https://www.elastic.co/cn/blog ... search)
[在 docker image 中安装 Elasticsearch 插件](https://www.elastic.co/cn/blog ... gement)
[一个开源的 ELK docker-compose 配置](https://github.com/deviantony/docker-elk)
[docker 中安装 ES 7.13](https://www.elastic.co/guide/e ... r.html)
[docker 中安装 Kibana 7.13](https://www.elastic.co/guide/e ... r.html)
最后附上[我写的小册](https://juejin.cn/book/7054754754529853475),欢迎刚入门的朋友来订阅~
_update_by_query 批量更新还有哪些坑?
hyycy140213 回复了问题 • 3 人关注 • 3 个回复 • 2385 次浏览 • 2022-03-31 14:32
Ingest处理的问题
tongchuan1992 回复了问题 • 2 人关注 • 1 个回复 • 682 次浏览 • 2022-03-09 13:46