ELK,萌萌哒
精度

精度

es查询结果超过16位导致精度丢失

ElasticsearchELKer 回复了问题 • 6 人关注 • 5 个回复 • 1408 次浏览 • 2019-11-19 18:40 • 来自相关话题

float类型存储在es中会有精度损失

Elasticsearchwjx1015 回复了问题 • 5 人关注 • 3 个回复 • 6114 次浏览 • 2018-09-25 15:04 • 来自相关话题

ES空间查询精度问题

回复

Elasticsearchwozaifeiyang0 发起了问题 • 2 人关注 • 0 个回复 • 1814 次浏览 • 2017-12-04 15:44 • 来自相关话题

elasticsearch 聚合函数 sum() 精度的问题

ElasticsearchCheetah 回复了问题 • 4 人关注 • 2 个回复 • 6503 次浏览 • 2017-08-31 10:53 • 来自相关话题

精度控制的问题

回复

Elasticsearchbfli 回复了问题 • 1 人关注 • 1 个回复 • 2617 次浏览 • 2017-04-19 10:16 • 来自相关话题

条新动态, 点击查看
kennywu76

kennywu76 回答了问题 • 2018-08-24 12:29 • 3 个回复 不感兴趣

float类型存储在es中会有精度损失

赞同来自:

你应该是从doc里读取的数据,如果从_source里读取就没这个问题。 不太清楚doc_values为什么对float类型会有精度损失,不过测试了一下,如果用double,则doc value里读取出来的精度和source里的一样,没有这个问题。[code]P... 显示全部 »
你应该是从doc里读取的数据,如果从_source里读取就没这个问题。 不太清楚doc_values为什么对float类型会有精度损失,不过测试了一下,如果用double,则doc value里读取出来的精度和source里的一样,没有这个问题。[code]PUT testme
{
  "settings": {},
  "mappings": {
    "doc": {
      "properties": {
        "id": {
          "type": "double"
        }
      }
    }
  }
}

POST testme/doc
{
  "id": 1.01
}

POST testme/_search
{
  "docvalue_fields": [
    "id"
  ]
}

{
  "took": 0,
  "timed_out": false,
  "_shards": {
    "total": 5,
    "successful": 5,
    "skipped": 0,
    "failed": 0
  },
  "hits": {
    "total": 1,
    "max_score": 1,
    "hits":
        }
      }
    ]
  }
}

 
 
或者觉得doulbe精度过高,浪费存储空间的话,也可以用scaled_float,看起来也是OK的[code]PUT testme
{
"settings": {},
"mappings": {
"doc": {
"properties": {
"id": {
"type": "scaled_float",
"scaling_factor": 100
}
}
}
}
}

POST testme/doc
{
"id": 1.01
}

POST testme/_search
{
"docvalue_fields": [
"id"
]
}

{
"took": 0,
"timed_out": false,
"_shards": {
"total": 5,
"successful": 5,
"skipped": 0,
"failed": 0
},
"hits": {
"total": 1,
"max_score": 1,
"hits":
}
}
]
}
}

es查询结果超过16位导致精度丢失

回复

ElasticsearchELKer 回复了问题 • 6 人关注 • 5 个回复 • 1408 次浏览 • 2019-11-19 18:40 • 来自相关话题

float类型存储在es中会有精度损失

回复

Elasticsearchwjx1015 回复了问题 • 5 人关注 • 3 个回复 • 6114 次浏览 • 2018-09-25 15:04 • 来自相关话题

ES空间查询精度问题

回复

Elasticsearchwozaifeiyang0 发起了问题 • 2 人关注 • 0 个回复 • 1814 次浏览 • 2017-12-04 15:44 • 来自相关话题

elasticsearch 聚合函数 sum() 精度的问题

回复

ElasticsearchCheetah 回复了问题 • 4 人关注 • 2 个回复 • 6503 次浏览 • 2017-08-31 10:53 • 来自相关话题

精度控制的问题

回复

Elasticsearchbfli 回复了问题 • 1 人关注 • 1 个回复 • 2617 次浏览 • 2017-04-19 10:16 • 来自相关话题