The requested URL was not found on this server. 不管你信不信,反正我是没找到

Elasticsearch:如何部署 NLP:文本嵌入和向量搜索

liuxg 发表了文章 • 0 个评论 • 2016 次浏览 • 2022-05-24 10:16 • 来自相关话题

作为我们自然语言处理 (NLP) 博客系列的一部分,我们将介绍一个使用文本嵌入模型生成文本内容的向量表示并演示对生成的向量进行向量相似性搜索的示例。我们将在 Elasticsearch 上部署一个公开可用的模型,并在摄取管道中使用它来从文本文档生成嵌入。然后,我们将展示如何在向量相似性搜索中使用这些嵌入(embedding)来查找给定查询的语义相似文档。

矢量相似性搜索(vector similarity search),或者通常称为语义搜索,超越了传统的基于关键字的搜索,允许用户找到可能没有任何共同关键字的语义相似的文档,从而提供更广泛的结果。向量相似性搜索对密集向量进行操作,并使用 k-最近邻(k-nearest neighbour)搜索来查找相似向量。为此,首先需要使用文本嵌入模型将文本形式的内容转换为其数字向量表示。

我们将使用来自 MS MARCO Passage Ranking Task 的公共数据集进行演示。它由来自 Microsoft Bing 搜索引擎的真实问题和人工生成的答案组成。该数据集是测试向量相似性搜索的完美资源,首先,因为问答是向量搜索最常见的用例之一,其次,MS MARCO 排行榜中的顶级论文以某种形式使用了向量搜索。

在我们的示例中,我们将使用此数据集的样本,使用模型生成文本嵌入,然后对其运行向量搜索。我们还希望对向量搜索产生的结果的质量进行快速验证。在今天的展示中,我将使用 Elastic Stack 8.2 来进行展示。
https://elasticstack.blog.csdn ... 20166

有什么 elasticsearch 轻便的压测方案?

liaosy 回复了问题 • 2 人关注 • 1 个回复 • 1255 次浏览 • 2022-05-23 09:52 • 来自相关话题

如何深入理解ES的分片租约

Charele 回复了问题 • 2 人关注 • 9 个回复 • 1471 次浏览 • 2022-06-02 04:10 • 来自相关话题

设置Watcher,判断两个独立的消息没有同时出现

Jasonspeaking 回复了问题 • 3 人关注 • 3 个回复 • 1068 次浏览 • 2022-05-24 06:05 • 来自相关话题

关于es内存使用的的一些疑问

liujiacheng 回复了问题 • 2 人关注 • 1 个回复 • 1266 次浏览 • 2022-05-21 12:29 • 来自相关话题

如何深入理解ES的聚合

回复

Charele 回复了问题 • 1 人关注 • 12 个回复 • 1363 次浏览 • 2022-05-24 13:14 • 来自相关话题

关于集合类型多选的问题

duanxiaobiao 回复了问题 • 3 人关注 • 1 个回复 • 1579 次浏览 • 2022-05-18 20:31 • 来自相关话题

ES 怎么应对一个增量会触发大量文档更新的情况?

回复

zsw1234 发起了问题 • 2 人关注 • 0 个回复 • 1346 次浏览 • 2022-05-18 14:50 • 来自相关话题

关于elasticsearch 分片平衡

回复

Charele 回复了问题 • 1 人关注 • 1 个回复 • 1069 次浏览 • 2022-05-20 03:34 • 来自相关话题

多层nested的多条件查询

duanxiaobiao 回复了问题 • 2 人关注 • 1 个回复 • 1713 次浏览 • 2022-05-17 23:19 • 来自相关话题

es 大批量别名引起的性能问题

God_lockin 回复了问题 • 3 人关注 • 2 个回复 • 1850 次浏览 • 2022-05-18 09:34 • 来自相关话题

如何深入理解ES的分片

回复

Charele 回复了问题 • 2 人关注 • 10 个回复 • 2474 次浏览 • 2022-05-21 14:03 • 来自相关话题

es多index查询并高亮显示

回复

LovelyTZ 发起了问题 • 1 人关注 • 0 个回复 • 1312 次浏览 • 2022-05-16 15:55 • 来自相关话题

如何深入理解ES ILM

回复

Charele 回复了问题 • 1 人关注 • 6 个回复 • 1645 次浏览 • 2022-05-20 06:00 • 来自相关话题

./bin/elasticsearch-cli是命令行管理工具吗?

Charele 回复了问题 • 2 人关注 • 1 个回复 • 1051 次浏览 • 2022-05-16 16:22 • 来自相关话题