网站被收录的过程网站维护的要求
1、背景
集群配置为：8 个 node 节点，16 核 32G，索引 4 分片 1 副本。应用程序的查询逻辑是按经纬度排序后找前 200 条文档。
1、应用对查询要求比较高，search 没有慢查询的状态。
2、集群压测性能不能上去，cpu 使用未打满，查询的 qps 上不去，且有队列堆积。
2、优化方法
通过云厂商内核组的同学抓取火焰图发现，主要消耗在 fetch phrase 阶段。
ES 默认从_source 取，每次查询都会读取一行数据，并需要做解压，如果对查询耗时要求比较高，应当在查询时关闭 store fields ，查询语句 指定“stored_fields”: [“none”], 砍掉元数据字段，同时用 “docvalue_fields”: [“video_fact_id”], 指定只拉取需要的字段，降低序列化跟网络传输开销。约能提升40% 性能。
推荐DSL如下：
GET /your_index/_search{"query": {"match_all": {} // 或者是其他符合你需求的查询},"stored_fields": ["none"], // 不获取任何存储的字段"docvalue_fields": ["field1", "field2"] // 只获取需要的doc value字段}3、优化后效率
3.1 查询耗时有进一步的提升
3.2 压测时cpu使用率和qps也有了明显的上升
压测最终的指标：优化前1800qps，优化后9200qps。
4、优化根因分析
在优化前，由于Elasticsearch默认从_source字段读取数据，这导致每次查询都需要读取整行数据并进行解压。这个过程不仅耗费CPU资源，还会增加响应时间，特别是当文档内容庞大时。
解压操作是CPU密集型的，而在高负载情况下，这可能成为系统瓶颈，从而限制了查询性能和吞吐量。
优化后，通过指定“stored_fields": ["none"]，我们有效地排除了_source字段的读取和解压过程，这显著减少了每个查询的CPU负载。
而使用“docvalue_fields”指定从列存中获取字段内容，没有压缩的转换，进一步减少了数据处理的开销。这种方法不仅降低了CPU的使用率，同时只提取必要的字段也减少了了网络传输的负担。
最终，通过这些优化措施，查询的QPS（每秒查询数）得到了显著提升，从1800qps提高到9200qps，这在高性能应用场景中是一个巨大的飞跃。
更高的QPS意味着系统能够更快地处理更多的查询请求，提高了整体的吞吐量和性能。
5、小结
总结来说，通过精细地调整查询策略和减少不必要的数据处理，我们可以显著提升Elasticsearch的性能，这在处理大规模数据和高并发查询的环境下尤为重要。
6、官方文档
https://www.elastic.co/guide/en/elasticsearch/reference/8.4/search-fields.html#disable-stored-fields
https://www.elastic.co/guide/en/elasticsearch/reference/8.4/search-fields.html#docvalue-fields
5、作者介绍
金多安，Elastic 认证专家，Elastic资深运维工程师，死磕Elasticsearch知识星球嘉宾，星球Top活跃技术专家，搜索客社区日报责任编辑
推荐阅读
全网首发！从 0 到 1 Elasticsearch 8.X 通关视频
重磅 | 死磕 Elasticsearch 8.X 方法论认知清单
如何系统的学习 Elasticsearch ？
2023，做点事
更短时间更快习得更多干货！
和全球 近2000+ Elastic 爱好者一起精进！
比同事抢先一步学习进阶干货！