filebeat多行合并后怎么确定合并的行?
Beats • xinfanwang 回复了问题 • 3 人关注 • 2 个回复 • 4485 次浏览 • 2019-01-22 10:04
加入同义词全文检索查询以后,性能明显下降,请问怎么回事呢?
Elasticsearch • liubin 回复了问题 • 6 人关注 • 3 个回复 • 2837 次浏览 • 2019-01-22 11:44
怎样评估元数据使用的内存量
Elasticsearch • JackGe 回复了问题 • 2 人关注 • 1 个回复 • 1552 次浏览 • 2019-01-21 23:19
社区日报 第516期 (2019-01-21)
社区日报 • cyberdak 发表了文章 • 0 个评论 • 2108 次浏览 • 2019-01-21 10:16
http://t.cn/E5X40JT
2.Opbeat已死,请用Elastic APM
http://t.cn/EyhRQRJ
3.亿级PV的ELK集群实践之路
http://t.cn/RnvPElX
编辑:cyberdak
归档:https://elasticsearch.cn/article/6339
订阅:https://tinyletter.com/elastic-daily
人民在线招聘ES搜索研发工程师
求职招聘 • paddy0914 发表了文章 • 0 个评论 • 4503 次浏览 • 2019-01-20 22:37
1、负责众云大数据平台Elasticsearch相关服务的功能设计、开发、运营和维护工作;
2、持续优化Elasticsearch的性能,完善功能,支持各业务线检索、聚合等场景;
3、负责众云事业部ELK平台的运营和维护工作;
岗位要求
1. 计算机相关专业全日制本科及以上学历,三年以上开发工作经验;
2. 熟练掌握java语言,熟练使用linux,强悍的编码和troubleshooting能力;
3. 深入了解Elasticsearch、Solr等开源搜索引擎,了解Lucene、Elasticsearch源码优先;
4. 精通搜索引擎架构原理、排序算法、索引处理及分词算法,索引数据结构;
5. 熟练掌握常见SQL数据库原理、数据库设计、查询编写和优化;
6. 有基础框架、中间件、基础库的开发经验优先;
7. 具有大型搜索引擎或舆情相关项目经验优先;
8. 对linux kernel、存储、文件系统、分布式任一方向有深入研究者优先;
9. 逻辑分析能力强,善于沟通,有良好的团队合作精神,良好的学习能力;
es 分组结果求和
Elasticsearch • li 回复了问题 • 3 人关注 • 2 个回复 • 6000 次浏览 • 2019-01-22 09:36
请问logstash多个config文件,多个input的jdbc中的connection能抽成一个引用文件吗?
Logstash • zqc0512 回复了问题 • 4 人关注 • 3 个回复 • 4250 次浏览 • 2019-01-21 10:38
logstash吞吐量太低了怎么优化呢?
Logstash • Fent 回复了问题 • 6 人关注 • 4 个回复 • 8529 次浏览 • 2020-07-22 08:20
社区日报 第515期 (2019-01-20)
社区日报 • 至尊宝 发表了文章 • 0 个评论 • 1738 次浏览 • 2019-01-20 08:26
http://t.cn/E5GiA1T
2.使用Tokens分发Cassandra数据。
http://t.cn/E5GIOd5
3.(自备梯子)为什么如此难以让计算机像人一样说话?
http://t.cn/EqFOf04
编辑:至尊宝
归档:https://elasticsearch.cn/article/6337
订阅:https://tinyletter.com/elastic-daily
社区日报 第514期 (2019-01-19)
社区日报 • bsll 发表了文章 • 0 个评论 • 1435 次浏览 • 2019-01-19 14:21
- Flink 写入数据到 ElasticSearch。
[http://t.cn/E5L88Q7](http://t.cn/E5L88Q7)
2.ES分布式一致性原则分析系列:节点、Meta、数据(需翻墙)。
[http://t.cn/E5LGg4i](http://t.cn/E5LGg4i)
[http://t.cn/E5LqqbD](http://t.cn/E5LqqbD)
[http://t.cn/E5L57t0](http://t.cn/E5L57t0)
- 一周热点:最近刷屏的《啥是佩奇》。
[http://t.cn/E5vkFQc](http://t.cn/E5vkFQc)
使用 RestHighLevelClient 连接 es 集群报错 Request cannot be executed; I/O reactor status: STOPPED
Elasticsearch • benben 回复了问题 • 8 人关注 • 5 个回复 • 13872 次浏览 • 2021-01-07 16:24
请问一个关于是否拆分索引的问题
Elasticsearch • zqc0512 回复了问题 • 6 人关注 • 5 个回复 • 2089 次浏览 • 2019-01-21 13:58
如何修改kibana的默认主页
Kibana • 点火三周 发表了文章 • 3 个评论 • 9325 次浏览 • 2019-01-18 15:34
在6.0版本以前,登录kibana之后,默认会路由到app/kibana
下的discover
应用。
在6.3版本以后,新增了一个home路径/app/kibana#/home?_g=h@44136fa
,访问根路径\
会直接跳到以上路径。
希望在kibana上做更多定制化开发的同学,或许会有需求在登录kibana之后能够跳转到自己的页面。
要完成以上需求,只需要在kibana的配置文件里面增加一行:
<br /> server.defaultRoute: /app/system_portal<br />
以上例子,我让kibana登录之后直接跳到我自己的app插件system_portal
配置默认路由的文件, src/server/http/get_default_route.js
:
js<br /> import _ from 'lodash';<br /> <br /> export default _.once(function (kbnServer) {<br /> const {<br /> config<br /> } = kbnServer;<br /> // 根目录basePath加上defaultRoute<br /> return `${config.get('server.basePath')}${config.get('server.defaultRoute')}`;<br /> });<br />
默认路由就是定义在server.defaultRoute中,默认值是app/kibana
,可查看src/server/config/schema.js
:
``js<br /> import Joi from 'joi';<br /> import { constants as cryptoConstants } from 'crypto';<br /> import os from 'os';<br /> <br /> import { fromRoot } from '../../utils';<br /> import { getData } from '../path';<br /> <br /> export default async () => Joi.object({<br /> pkg: Joi.object({<br /> version: Joi.string().default(Joi.ref('$version')),<br /> branch: Joi.string().default(Joi.ref('$branch')),<br /> buildNum: Joi.number().default(Joi.ref('$buildNum')),<br /> buildSha: Joi.string().default(Joi.ref('$buildSha')),<br /> }).default(),<br /> <br /> env: Joi.object({<br /> name: Joi.string().default(Joi.ref('$env')),<br /> dev: Joi.boolean().default(Joi.ref('$dev')),<br /> prod: Joi.boolean().default(Joi.ref('$prod'))<br /> }).default(),<br /> <br /> dev: Joi.object({<br /> basePathProxyTarget: Joi.number().default(5603),<br /> }).default(),<br /> <br /> pid: Joi.object({<br /> file: Joi.string(),<br /> exclusive: Joi.boolean().default(false)<br /> }).default(),<br /> <br /> cpu: Joi.object({<br /> cgroup: Joi.object({<br /> path: Joi.object({<br /> override: Joi.string().default()<br /> })<br /> })<br /> }),<br /> <br /> cpuacct: Joi.object({<br /> cgroup: Joi.object({<br /> path: Joi.object({<br /> override: Joi.string().default()<br /> })<br /> })<br /> }),<br /> <br /> server: Joi.object({<br /> uuid: Joi.string().guid().default(),<br /> name: Joi.string().default(os.hostname()),<br /> host: Joi.string().hostname().default('localhost'),<br /> port: Joi.number().default(5601),<br /> maxPayloadBytes: Joi.number().default(1048576),<br /> autoListen: Joi.boolean().default(true),<br /> defaultRoute: Joi.string().default('/app/kibana').regex(/^\//,
start with a slash),<br /> basePath: Joi.string().default('').allow('').regex(/(^$|^\/.*[^\/]$)/,
start with a slash, don't end with one`),
rewriteBasePath: Joi.boolean().when('basePath', {
is: '',
then: Joi.default(false).valid(false),
otherwise: Joi.default(false),
}),
customResponseHeaders: Joi.object().unknown(true).default({}),
ssl: Joi.object({
enabled: Joi.boolean().default(false),
redirectHttpFromPort: Joi.number(),
certificate: Joi.string().when('enabled', {
is: true,
then: Joi.required(),
}),
key: Joi.string().when('enabled', {
is: true,
then: Joi.required()
}),
keyPassphrase: Joi.string(),
certificateAuthorities: Joi.array().single().items(Joi.string()).default(),
supportedProtocols: Joi.array().items(Joi.string().valid('TLSv1', 'TLSv1.1', 'TLSv1.2')),
cipherSuites: Joi.array().items(Joi.string()).default(cryptoConstants.defaultCoreCipherList.split(':'))
}).default(),
cors: Joi.when('$dev', {
is: true,
then: Joi.object().default({
origin: ['://localhost:9876'] // karma test server
}),
otherwise: Joi.boolean().default(false)
}),
xsrf: Joi.object({
disableProtection: Joi.boolean().default(false),
whitelist: Joi.array().items(
Joi.string().regex(/^\//, 'start with a slash')
).default(),
token: Joi.string().optional().notes('Deprecated')
}).default(),
}).default(),
logging: Joi.object().keys({
silent: Joi.boolean().default(false),
quiet: Joi.boolean()
.when('silent', {
is: true,
then: Joi.default(true).valid(true),
otherwise: Joi.default(false)
}),
verbose: Joi.boolean()
.when('quiet', {
is: true,
then: Joi.valid(false).default(false),
otherwise: Joi.default(false)
}),
events: Joi.any().default({}),
dest: Joi.string().default('stdout'),
filter: Joi.any().default({}),
json: Joi.boolean()
.when('dest', {
is: 'stdout',
then: Joi.default(!process.stdout.isTTY),
otherwise: Joi.default(true)
}),
useUTC: Joi.boolean().default(true),
})
.default(),
ops: Joi.object({
interval: Joi.number().default(5000),
}).default(),
plugins: Joi.object({
paths: Joi.array().items(Joi.string()).default(),
scanDirs: Joi.array().items(Joi.string()).default(),
initialize: Joi.boolean().default(true)
}).default(),
path: Joi.object({
data: Joi.string().default(getData())
}).default(),
optimize: Joi.object({
enabled: Joi.boolean().default(true),
bundleFilter: Joi.string().default('!tests'),
bundleDir: Joi.string().default(fromRoot('optimize/bundles')),
viewCaching: Joi.boolean().default(Joi.ref('$prod')),
watch: Joi.boolean().default(false),
watchPort: Joi.number().default(5602),
watchHost: Joi.string().hostname().default('localhost'),
watchPrebuild: Joi.boolean().default(false),
watchProxyTimeout: Joi.number().default(5 60000),
useBundleCache: Joi.boolean().default(Joi.ref('$prod')),
unsafeCache: Joi.when('$prod', {
is: true,
then: Joi.boolean().valid(false),
otherwise: Joi
.alternatives()
.try(
Joi.boolean(),
Joi.string().regex(/^\/.+\/$/)
)
.default(true),
}),
sourceMaps: Joi.when('$prod', {
is: true,
then: Joi.boolean().valid(false),
otherwise: Joi
.alternatives()
.try(
Joi.string().required(),
Joi.boolean()
)
.default('#cheap-source-map'),
}),
profile: Joi.boolean().default(false)
}).default(),
status: Joi.object({
allowAnonymous: Joi.boolean().default(false)
}).default(),
map: Joi.object({
manifestServiceUrl: Joi.string().default(' https://catalogue.maps.elastic.co/v2/manifest'),
emsLandingPageUrl: Joi.string().default('https://maps.elastic.co/v2'),
includeElasticMapsService: Joi.boolean().default(true)
}).default(),
tilemap: Joi.object({
url: Joi.string(),
options: Joi.object({
attribution: Joi.string(),
minZoom: Joi.number().min(0, 'Must be 0 or higher').default(0),
maxZoom: Joi.number().default(10),
tileSize: Joi.number(),
subdomains: Joi.array().items(Joi.string()).single(),
errorTileUrl: Joi.string().uri(),
tms: Joi.boolean(),
reuseTiles: Joi.boolean(),
bounds: Joi.array().items(Joi.array().items(Joi.number()).min(2).required()).min(2)
}).default()
}).default(),
regionmap: Joi.object({
includeElasticMapsService: Joi.boolean().default(true),
layers: Joi.array().items(Joi.object({
url: Joi.string(),
format: Joi.object({
type: Joi.string().default('geojson')
}).default({
type: 'geojson'
}),
meta: Joi.object({
feature_collection_path: Joi.string().default('data')
}).default({
feature_collection_path: 'data'
}),
attribution: Joi.string(),
name: Joi.string(),
fields: Joi.array().items(Joi.object({
name: Joi.string(),
description: Joi.string()
}))
}))
}).default(),
i18n: Joi.object({
defaultLocale: Joi.string().default('en'),
}).default(),
// This is a configuration node that is specifically handled by the config system
// in the new platform, and that the current platform doesn't need to handle at all.
__newPlatform: Joi.any(),
}).default();
ES集群数据节点负载突然升高,拒绝检索请求
Elasticsearch • JackGe 回复了问题 • 4 人关注 • 2 个回复 • 6489 次浏览 • 2019-01-18 20:51
filebeat的数据输出到kafka的数据格式可以不使用json格式么
回复Beats • 匿名用户 发起了问题 • 1 人关注 • 0 个回复 • 4892 次浏览 • 2019-01-18 13:45