要不要再翻翻文档呢?

elasticsearch 索引pdf等类型文件性能如何优化?

Elasticsearch | 作者 ggchangan | 发布于2016年05月20日 | 阅读数:8811

1.环境
elasticsearch: 2.1.1
使用elasticsearch-mapper-attachments插件进行文件索引
文件类型:pdf
文件大小:35m
2.性能统计
索引核心操作耗时:112924ms = 112.9s 
索引核心操作是:client.prepareIndex(index, ATTACHMENT_TYPE, id.toString()) .setSource(source).execute().actionGet();

简单地说,就是用这种方法,索引35m的pdf文件,竟然使用了112.9s,在半实时环境下,不可接受。

问题:
1.索引文件性能是不是就是这个量级,此种现象是正常的?如果正常,就应该从导入策略上去优化
2.如果不正常,有没有更好地办法?
已邀请:

kennywu76 - Wood^Trip.com

赞同来自: ouyangDD cxy

你的mapping是怎样的? 我在本机(macbook pro)测试了一下,用python索引一个42MB左右的英文PDF文件,耗时3.775s。
 
测试用的ES版本是2.2.2 ,插件Mapper Attachments Plugin。 
测试索引的mapping设置如下:
POST /trying-out-mapper-attachments
{
"mappings": {
"ebook": {
"properties": {
"file" : {
"type" : "attachment",
"fields" : {
"content" : {"index" : "analyzed"},
"title" : {"store" : "yes"},
"date" : {"store" : "yes"},
"author" : {"analyzer" : "standard"},
"keywords" : {"store" : "yes"},
"content_type" : {"store" : "yes"},
"content_length" : {"store" : "yes"},
"language" : {"store" : "yes"}
}
}
}
}
}
}

测试pdf大小:
-rwxr-xr-x  1 xgwu  wheel  42471315  6 22 17:09 hfdp.pdf

测试的python代码:
import base64
from elasticsearch import Elasticsearch

es = Elasticsearch()

f = open('/tmp/hfdp.pdf','rb')
buff = base64.b64encode(f.read())
f.close()

es.index(index="trying-out-mapper-attachments", doc_type="ebook", body={"file":buff})

 耗时如下:
test.jpg

 
整个耗时包括文件读取,base64编码,以及调用ES index api做索引。
 
对content字段进行全文检索,耗时61ms:
POST /trying-out-mapper-attachments/_search
{
"query": {
"match": {
"file.content": "java"
}
},
"fields": [
"file.title",
"file.content_type",
"file.content_length",
"file.date"
]
}

 可以正确的match:
{
"took": 61,
"timed_out": false,
"_shards": {
"total": 5,
"successful": 5,
"failed": 0
},
"hits": {
"total": 1,
"max_score": 0.014383726,
"hits": [
{
"_index": "trying-out-mapper-attachments",
"_type": "ebook",
"_id": "AVzPE-97uN82ZvxDdc3x",
"_score": 0.014383726,
"fields": {
"file.content_length": [
"42471315"
],
"file.date": [
"2011-10-13T07:37:00Z"
],
"file.content_type": [
"application/pdf"
],
"file.title": [
"Head First Design Patterns"
]
}
}
]
}
}

 

rmqc0909

赞同来自:

楼主,我最近也在研究这个东西,es用的版本是5.1.1,我对一个27.6m的pdf文件建立索引,花了7196ms,但是查询的时候花费的时间好长,请问你找到优化的解决方案了吗

rmqc0909

赞同来自:

你好,我对34.2MB.doc文件建立索引用了9867ms,查询用49662ms,我用java写的客户端代码,如图,采用火狐的httprequester进行索引查询,请求后浏览器基本上都无响应,查询时间巨慢。。。我的es是一个节点。请问下你是如何做到那么快速的查询的?

happyhui

赞同来自:

请给个DEMO参考一下,十分感谢!

laoyang360 - Elastic认证工程师 [死磕Elasitcsearch]知识星球地址:http://t.cn/RmwM3N9;微信公众号:铭毅天下; 博客:https://elastic.blog.csdn.net

赞同来自:

luoqingsong - 80后IT男

赞同来自:

楼上的几位大神,Attachment类型,在最新的6.x版本,已经移除掉了。这个是什么情况,我用的是Nest客户端,里面字段特性已经没有AttachmentAttribute了.

要回复问题请先登录注册