Lostash同步Mysql数据到Elasticsearch(四)通过kibana辅助查看同步情况

kibana常用命令查询索引

在数据同步时,我们需要使用一些常用查询,来确认脚本及索引情况,下面的常用命令可以帮到大家

1.查询几条数据来看看数据同步情况


GET idx_znyg_xxx/_search
{
  "size":10,
  "query": {
    "match_all": {}
  }
}

2.索引查询相关


GET idx_znyw_data_gkb_logstash/_mapping   //查询索引mapping结构
GET /idx_znyg_datanbqseries/_count  //统计数量
GET _template/idx_znyg_datanbqseries  //获取模板内容
GET /idx_znyg_sysinfo/_settings  //查询索引配置相关
GET _cat/indices?pretty //获取所有索引详细情况

3.关闭打开索引


POST /idx_znyg_datanbqseries/_close
POST /idx_znyg_datanbqseries/_open

4.更新索引settings(需要先关闭索引)


PUT /idx_znyg_datanbqseries/_settings
{

	"index":{
	 	"number_of_replicas": 2,
		"max_result_window": 65536,
		"max_inner_result_window": 10000,
		"translog.durability": "request",
		"translog.sync_interval": "3s",
		"auto_expand_replicas": false,
		"analysis.analyzer.default.type": "ik_max_word",
		"analysis.search_analyzer.default.type": "ik_smart",
		"shard.check_on_startup": false,
		"codec": "default",
		"store.type": "niofs"
	}
}

5.删除相关操作


DELETE /idx_znyw_data_gkb_logstash
  //删除索引
DELETE /_template/idx_znyg_datacn //删除模板

6.创建更新模板操作


请查看Lostash同步数据(三)Elasticsearch相关处理

7.Couldn’t find any filter plugin named ‘else’.

不知是什么原因引起的,在过滤器中使用if else,找不到else相关插件,暂未找到原因,使用if取反暂时解决。

8.大数据量ES内部数据迁移

创建新索引,讲数据拷贝至新索引,删除旧索引,增加分片数后,在把数据拷贝回来,使用ES内部迁移速度飞快。

POST _reindex?slices=5&refresh
{
  "source": {
    "index": "idx_znyg_datanbqseries_new",
    "size": 10000
  },
  "dest": {
    "index": "idx_znyg_datanbqseries"
    
  }
}