网创优客建站品牌官网
为成都网站建设公司企业提供高品质网站建设
热线:028-86922220
成都专业网站建设公司

定制建站费用3500元

符合中小企业对网站设计、功能常规化式的企业展示型网站建设

成都品牌网站建设

品牌网站建设费用6000元

本套餐主要针对企业品牌型网站、中高端设计、前端互动体验...

成都商城网站建设

商城网站建设费用8000元

商城网站建设因基本功能的需求不同费用上面也有很大的差别...

成都微信网站建设

手机微信网站建站3000元

手机微信网站开发、微信官网、微信商城网站...

建站知识

当前位置:首页 > 建站知识

ES学习笔记之--fielddata的起源

ES的官方文档中关于 检索和排序的关系说得特别好:

网站建设哪家好,找创新互联建站!专注于网页设计、网站建设、微信开发、小程序设计、集团企业网站建设等服务项目。为回馈新老客户创新互联还提供了泰州免费建站欢迎大家使用!

Search needs to answer the question "Which documents contain this term?", 
while sorting and aggregations need to answer a different question: "What is the value of this field for this document?".

搜索要解决的问题是: "哪些文档包含给定的关键词?"
排序和聚合要解决的问题是: “这个文档中对应字段的值是多少?”

同样,以需求为出发点: "检索的结果按时间排序" 这个需求在商品搜索和日志分析系统中是非常普遍的。 众所周知,Lucene是通过倒排索引解决了“检索的问题”,那么“排序的问题” 怎么处理呢?

最开始,Lucene是通过FieldCache来解决这个需求。就是通过FieldCache建立docId - value的映射关系。 但是FieldCache有个两个致命的问题: 堆内存消耗 和 首次加载耗时 。 如过索引更新频率较高,这两个问题引发的GC和超时导致系统不稳定估计是程序员的噩梦。

从Lucene4.0开始,引入了新的组件IndexDocValues,就是我们常说的doc_value

它有两个亮点:

1. 索引数据时构建 doc-value的映射关系。注: 倒排索引构建的是value-doc的映射关系。

2. 列式存储

这基本上就是“空间换时间”和“按需加载”的典型实践了。 而且,列式存储基本上是所有高效NOSQL的标配,Hbase, Hive 都有列式存储的身影。

IndexDocValues跟FieldCache一样解决了“通过doc_id查询value”的问题, 同时也解决了FieldCache的两个问题。

ES基于doc_value构建了fielddata, 用于排序和聚合两大功能。 所以,可以毫不客气地说, doc_value是ES aggregations的基石。

那么在ES中, fielddata如何使用呢? 以binary类型为例,参考: org.elasticsearch.index.fielddata.BinaryDVFieldDataTests

s1: 建mappings时需要特殊处理

        String mapping = XContentFactory.jsonBuilder().startObject().startObject("test")
                .startObject("properties")
                .startObject("field")
                .field("type", "binary")
                .startObject("fielddata").field("format", "doc_values").endObject()
                .endObject()
                .endObject()
                .endObject().endObject().string();

s2: 通过leafreader构建doc_values

 LeafReaderContext reader = refreshReader();
        IndexFieldData indexFieldData = getForField("field");
        AtomicFieldData fieldData = indexFieldData.load(reader);

        SortedBinaryDocValues bytesValues = fieldData.getBytesValues();

s3: 定位到指定文档, 用setDocument()方法。

/**
 * A list of per-document binary values, sorted
 * according to {@link BytesRef#getUTF8SortedAsUnicodeComparator()}.
 * There might be dups however.
 */
public abstract class SortedBinaryDocValues {

    /**
     * Positions to the specified document
     */
    public abstract void setDocument(int docId);

    /**
     * Return the number of values of the current document.
     */
    public abstract int count();

    /**
     * Retrieve the value for the current document at the specified index.
     * An index ranges from {@code 0} to {@code count()-1}.
     * Note that the returned {@link BytesRef} might be reused across invocations.
     */
    public abstract BytesRef valueAt(int index);

}

注意,如果reader是组合的,也就是有多个,需要用到docBase + reader.docId。 这里是容易采坑的。

s4: 获取文档的指定field的value,使用 valueAt()方法。

最后总结一下, 本文简述了lucene的doc_value和 es的fielddata的关系, 简要描述了一下doc_value的基本思想。最后给出了在ES中使用fielddata的基本方法。这对于自己开发plugin是比较有用的。


本文标题:ES学习笔记之--fielddata的起源
URL链接:http://bjjierui.cn/article/psphcc.html

其他资讯