使用分页导入的方式把大量数据从mysql导入es
创始人
2024-04-20 22:20:59
0

1、首先要有分页功能的代码 

如何使用mybatis-plus实现分页,可参考

http://t.csdn.cn/ddnlk

2、要创建feign远程调用模块

可以参考

http://t.csdn.cn/gshFw

3、在feign模块中声明远程调用接口

1.在feign模块中创建一个接口,名字可以是你要调用的服务名+client

 2.接口中的代码为要调用的方法,也就是分页方法

package com.hmall.config;import com.hmall.common.dto.Item;
import com.hmall.common.dto.PageDTO;
import org.springframework.cloud.openfeign.FeignClient;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestParam;/*** 商品模块的远程调用** @author ning* @since 2022/12/9 18:39*/
//表示对应的是itemservice服务器
@FeignClient("itemservice")
public interface ItemClient {//分页查询//Item为数据库的实体类,需要复制一份到Feign模块,//注意,复制过来的实体类,只需要属性和构造方法,其他的不需要,否则会报错@GetMapping("/item/list")public PageDTO list(@RequestParam("page") Integer page, @RequestParam("size") Integer size);
}

 实体类:

 4、在es对应的模块加入ItemClient依赖

例如:

 5、创建启动类

package com.hmall.search;import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.cloud.openfeign.EnableFeignClients;/*** @author ning* @since 2022/12/9 20:03*///开启Feign客户端
//basePackages 指定需要扫描的包
@EnableFeignClients(basePackages = "com.hmall.client")
@SpringBootApplication
public class SearchApplication {public static void main(String[] args) {SpringApplication.run(SearchApplication.class, args);}
}

6、创建es索引库对应的实体类itemDoc

package com.hmall.search.pojo;import com.hmall.common.dto.Item;
import lombok.Data;
import lombok.NoArgsConstructor;
import org.springframework.beans.BeanUtils;import java.util.ArrayList;
import java.util.List;/*** es的实体类** @author ning* @since 2022/12/9 20:12*/@NoArgsConstructor
@Data
public class ItemDoc {private Long id;//商品idprivate String name;//商品名称private Long price;//价格(分)private String image;//商品图片private String category;//分类名称private String brand;//品牌名称private Integer sold;//销量private Integer commentCount;//评论数private Boolean isAD;//商品状态 1-正常,2-下架private List suggestion = new ArrayList<>(2);//把从数据查出来的参数复制到这个es的实体类public ItemDoc(Item item) {//复制属性BeanUtils.copyProperties(item,this);//自动补全字段//品牌suggestion.add(item.getBrand());//分类suggestion.add(item.getCategory());}
}

7、修改配置类(也可以不设置)

ribbon超时设置 (防止数据库读取时间长时,feign远程调用失败)

默认是3秒,查询如果超过3秒,就失败了

这是改成了5秒

ribbon:ConnectTimeout: 5000ReadTimeout: 5000

8、编写数据导入的测试方法

import com.alibaba.fastjson.JSON;
import com.hmall.client.ItemClient;
import com.hmall.common.dto.Item;
import com.hmall.common.dto.PageDTO;
import com.hmall.search.pojo.ItemDoc;
import lombok.extern.slf4j.Slf4j;
import org.elasticsearch.action.bulk.BulkRequest;
import org.elasticsearch.action.index.IndexRequest;
import org.elasticsearch.client.RequestOptions;
import org.elasticsearch.client.RestHighLevelClient;
import org.elasticsearch.common.xcontent.XContentType;
import org.junit.jupiter.api.Test;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.boot.test.context.SpringBootTest;import java.io.IOException;
import java.util.List;/*** 使用分页把数据从mysql导入es** @author ning* @since 2022/12/9 20:32*/@Slf4j
@SpringBootTest
public class FeignTest {//注入远程调用分页方法的接口@Autowiredprivate ItemClient itemClient;//注入es的组件操作索引库的增删改查@Autowiredprivate RestHighLevelClient client;/*** 测试:分页接口是否正常* 建议:在正式运行下边的数据导入的代码之前,先运行以下代码,确保远程调用分页接口正常*/@Testvoid testItemClient() {PageDTO pageDTO = itemClient.list(1, 5);List itemList = pageDTO.getList();Long total = pageDTO.getTotal();log.info("total:::" + total);for (Item item : itemList) {System.out.println(item);}}/*** 数据导入(从mysql导入es)*/@Testvoid testDataSync() {//使用分页查询数据库//(当前页和每页显示几条数据可以随便写,目的是获取总记录数)PageDTO pageDTO = itemClient.list(1, 1);//获取总记录数Long total = pageDTO.getTotal();System.out.println("total:" + total);//设置每页有1000条数据int size = 1000;//计算页数//总记录数和1000做模运算,如果为0,总页数就是total / size的值,否则就是total / size + 1Long page = total % size == 0 ? total / size : total / size + 1;//根据页数循环,把每一页的数据复制到esfor (int i = 1; i <= page; i++) {//使用分页方法获取每页的数据pageDTO = itemClient.list(i, size);//创建一个批量请求BulkRequest bulkRequest = new BulkRequest();for (Item item : pageDTO.getList()) {//判断商品的状态,只有是可售卖的状态才可以复制到esif (item.getStatus() == 1) {//创建es的实体类对象,并赋值数据库查出当页数据赋值ItemDoc itemDoc = new ItemDoc(item);//把封装之后的es的实体类对象转成json格式String jsonString = JSON.toJSONString(itemDoc);//System.out.println(itemDoc.getId());//生成添加文档的请求bulkRequest.add(                    //并把添加文档的请求存入批量请求中new IndexRequest("item")    //创建一个添加文档的请求对象,item为添加到哪个索引库.id(itemDoc.getId().toString())//新添加数据的id.source(jsonString, XContentType.JSON)//添加的数据,声明数据格式是json);}}try {//发送请求//第一个参数:创建的请求,第二个参数:是否还有其他执行的选项,一般选DEFAULTclient.bulk(bulkRequest, RequestOptions.DEFAULT);System.out.printf("第%d页,本页总条数:%d,导入完毕\r\n", i, pageDTO.getList().size());} catch (IOException e) {e.printStackTrace();}}}
}

我出现的问题:

以上步骤执行完毕之后,我的代码报了一个错:

 

 意思是,拒绝连接:没有进一步的信息

我的解决方案是:在yml文件中配置以下信息,问题就可以解决

spring:data:elasticsearch:repositories:enabled: true# 异常处理elasticsearch:rest:uris: 192.168.177.132:9200

但是,我水品有限,没有明白什么原因,还有这个配置文件中的内容也不是很清楚,如果有路过的大佬,原因耽误宝贵的时间,给小弟解释一下,小弟不胜感激!!!!

相关内容

热门资讯

鸿蒙怎样还原安卓系统,系统切换... 你有没有想过,鸿蒙系统竟然能还原安卓系统?这听起来是不是有点像魔法一样神奇?没错,今天就要带你一探究...
电脑安卓转苹果系统,系统迁移攻... 你有没有想过,有一天你的安卓手机突然变成了苹果的忠实粉丝,想要跳槽到iOS的阵营呢?这可不是什么天方...
安卓xp系统下载地址,轻松获取... 你有没有想过,手机系统也能穿越时空?没错,今天我要给你揭秘的就是这样一个神奇的存在——安卓XP系统。...
安卓系统怎么清理相册,安卓系统... 手机里的相册是不是越来越臃肿了?每次打开都感觉像是在翻山越岭,找一张照片都要费老鼻子劲。别急,今天就...
安卓系统安装ios转移,轻松实... 你有没有想过,手机系统之间的转换竟然也能如此神奇?没错,今天就要来聊聊安卓系统安装iOS转移这个话题...
安卓系统与ios系统的优势,系... 你有没有想过,为什么你的手机里装的是安卓系统而不是苹果的iOS系统呢?或者反过来,为什么你的朋友用的...
安卓系统游戏如何升级,轻松实现... 亲爱的安卓玩家们,你是否也和我一样,对安卓系统游戏升级这件事充满了好奇和期待呢?每次游戏更新,都仿佛...
安卓系统蛋仔派对,安卓系统下的... 你有没有发现,最近你的手机里多了一个超级好玩的游戏?没错,就是安卓系统上的“蛋仔派对”!这款游戏可是...
坚果3安卓原生系统,深度体验原... 你有没有听说过坚果3这款手机?它可是最近在数码圈里火得一塌糊涂呢!今天,我就要来给你详细介绍一下这款...
安卓子系统点不开,排查与解决指... 最近是不是你也遇到了安卓子系统点不开的烦恼?这可真是让人头疼啊!别急,今天就来给你详细解析一下这个问...
安卓系统经常误删文件,如何有效... 你有没有遇到过这种情况?手机里的文件突然不见了,找来找去,怎么也找不到。别急,这可能是安卓系统的小调...
安卓51系统如何破解,轻松解锁... 安卓51系统如何破解——探索未知的技术边界在数字化时代,手机已经成为我们生活中不可或缺的一部分。而安...
安卓系统怎么换回主题,安卓系统... 亲爱的手机控们,你是不是也和我一样,对安卓系统的主题换换换乐此不疲呢?不过,有时候换着换着,突然发现...
黑莓安卓系统 太垃圾,令人失望... 你有没有用过黑莓的安卓系统?别告诉我你没有,因为现在这个系统真的是太垃圾了!是的,你没听错,就是那个...
修改安卓系统权限代码,安卓系统... 你有没有想过,你的安卓手机里那些神秘的系统权限代码?它们就像隐藏在手机里的秘密通道,有时候让你觉得既...
虚拟大师安卓系统教程,教程详解... 你有没有想过,手机里的世界可以变得更加神奇?今天,就让我带你一起探索虚拟大师安卓系统的奥秘吧!想象你...
基于安卓系统个人博客,轻松构建... 你有没有想过,在这个信息爆炸的时代,拥有一片属于自己的网络小天地是多么酷的事情啊!想象每天都能在这里...
安卓怎么传到苹果系统,从安卓到... 你是不是也有过这样的烦恼:手机里存了好多好用的安卓应用,可是一换到苹果系统,就发现这些宝贝们都不见了...
安卓改系统字体app,安卓系统... 你有没有想过,手机上的字体也能变得个性十足?没错,就是那个安卓改系统字体app,它可是让手机界面焕然...
安卓系统重启密码错误,破解与预... 手机突然重启了,屏幕上竟然出现了密码输入的界面!这可怎么办?别急,让我来帮你一步步解决这个安卓系统重...