MyBatis实现批量插入方法实例

2022-10-27 19:36:32 众衡网络科技

一、SQL实现示例

假设我们只插入一条数据的时候，SQL如下

insert into table ([列名],[列名])  values ([列值],[列值]));
# 或者
insert into table values ([列值],[列值]))

当插入多条数据的时候，也就是需要批量插入的时候，SQL如下

insert into table ([列名],[列名])
VALUES
([列值],[列值])),
([列值],[列值])),
([列值],[列值]));

批量的用处：一次插入多条数据，这样就可以降低与数据库的IO次数，减少性能的损耗。

二、Mybatis通过Mapper.xml文件实现

比如这里的抽象的SQL就是

insert into table (ID, PHONE,MESSAGE,APP_CODE，AREA_CODE，SEND_TYPE，SEND_TIME，CREATE_DATE，REMARK，serial_number)
values
(?,?,?,?,?,?,?,?,?,?,?,), (?,?,?,?,?,?,?,?,?,?,?,), (?,?,?,?,?,?,?,?,?,?,?,)

具体实现

<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE mapper PUBLIC "-//mybatis.org//DTD Mapper 3.0//EN" "http://mybatis.org/dtd/mybatis-3-mapper.dtd">
<mapper namespace="com.scoreone.ap.mapper.MtTaskMapper">
<!--批量插入-->
    <insert id="insertList" parameterType="java.util.List">
        insert into ap_mt_task (ID, PHONE, MESSAGE,
        APP_CODE, AREA_CODE, SEND_TYPE,
        SEND_TIME, CREATE_DATE, REMARK,serial_number
        )
        VALUES
        <foreach collection="list" index="index" item="item" separator="," >
            (#{item.ID},#{item.PHONE},#{item.MESSAGE},#{item.APP_CODE},#{item.AREA_CODE},
            #{item.SEND_TYPE},#{item.SEND_TIME},#{item.CREATE_DATE},#{item.REMARK},#{item.serial_number})
        </foreach>
    </insert>
</mapper>

也可以不用在value里用foreach ,在整个SQL语句外面用。

参数解释

foreach的主要作用在构建in条件中，它可以在SQL语句中进行迭代一个集合。foreach元素的属性主要有 collection，item，separator，index，open，close。

collection：指定要遍历的集合。表示传入过来的参数的数据类型。该属性是必须指定的，要做 foreach 的对象。在使用foreach的时候最关键的也是最容易出错的就是collection属性。在不同情况下，该属性的值是不一样的，主要有一下3种情况：

a. 如果传入的是单参数且参数类型是一个List的时候，collection属性值为list
b. 如果传入的是单参数且参数类型是一个array数组的时候，collection的属性值为array
c. 如果传入的参数是多个的时候，我们就需要把它们封装成一个Map了，当然单参数也可以封装成map。Map 对象没有默认的键

item：表示集合中每一个元素进行迭代时的别名。将当前遍历出的元素赋值给指定的变量，然后用#{变量名}，就能取出变量的值，也就是当前遍历出的元素。

separator：表示在每次进行迭代之间以什么符号作为分隔符。select * from tab where id in(1,2,3)相当于1,2,3之间的","

index：索引。index指定一个名字，用于表示在迭代过程中，每次迭代到的位置。遍历list的时候index就是索引，遍历map的时候index表示的就是map的key，item就是map的值。

open：表示该语句以什么开始，close表示以什么结束。

三、在Mapper接口上使用注解

举例

@Insert(“insert into blog(blogId,title,author) values(#blogId,#title,#author)”）
public boolean saveBlog(Blog blog);

这种对于简单的SQL可以使用法，对于复杂的SQL可读性太差（会有以大堆拼接符号），不建议使用。

xml、注解两种方式的区别：

foreach相当语句逐条INSERT语句执行，将出现如下问题：

（1）mapper接口的insert方法返回值将是最后一条INSERT语句的操作成功的记录数目（就是0或1），而不是所有INSERT语句的操作成功的总记录数目；
（2）当其中一条不成功时，不会进行整体回滚。

注解方式：当有一条插入不成功时，会整体回滚。

四、限制一次批量插入数据的数量

假设我们传过来的List一次有 10000 条，但是我们数据库批量插入不可能一下子插入 10000 条，我们就需要将这一批的数据进行限制，也就是再分成一小批一小批进行插入，比如下面，一次限制插入 15 条数据。

//举例这里就是进行 task表 的批量插入，限制一次 15 条
public int insertList(ArrayList<MtTask> taskList) {
//批量插入的时候，限制一批插入 15 条，效率会高一点，防止造成堆内存溢出异常
        if (taskList.size() > 0) {
            int InsertSize = 15;//一次插入15条
            //分成limit次发请求到数据库
            //这个算法就是防止不是在整除的时候少了一次，比如 32 个需要插四次
            int limit = (taskList.size() + InsertSize - 1) / InsertSize;//需要插入多少次
 
            //这个流的意思就是，进行 limit 次，每一次插入15个
 
            //根据起始值seed(0)，每次生成一个指定递增值（n+1）的数，limit(limit)用于截断流的长度,也就是进行limit次的里面的操作
            Stream.iterate(0, n -> n + 1).limit(limit).forEach(a -> {
                // skip就是跳过前面（a * InsertSize）条数据，因为 a是从0开始，到limit，skip(0)的时候是空的不插入
                // .limit（InsertSize）->限制每次插入数据的15条  .collect(Collectors.toList()->组成一个toList
                List<MtTask> mtTaskList = taskList.stream().skip(a * InsertSize).limit(InsertSize).collect(Collectors.toList());
                //doSomething();
                mtTaskMapper.insertList(mtTaskList);
            });
}

上面这是使用流的，下面是不用使用流的

/*不用流的方法*/
            //集合的大小
            int size = taskList.size();
            //需要拆分成的每个集合大小
            int newSize = 15;
            //需要需要拆分成的小集合数量（拆分没有余数则取相除的结果，如果有余数则需要再加一个集合存放余数）
            //这个就是直接判断出了之后有没有余数，有就多加一次，没有就整除刚好
            int sum = size % newSize != 0 ? (size / newSize) + 1 : size / newSize;
            //循环参照大集合，能拆分成的集合有多少个就循环多少遍
            for (int i = 0; i < sum; i++) {
                //如果当前下标+1 等于拆分成的集合数量，则说明这是最后一组（也可能仅能拆成一个集合 下标0 + 1 == 集合数量 1）
                if ((i + 1) == sum) {
                    //截取的下标开始位
                    int startIndex = (i * newSize);
                    //截取的结束下标位置
                    int endIndex = size;
                    //插入
                    result = mtTaskMapper.insertList(taskList.subList(startIndex, endIndex));
                } else {
                    //截取的下标开始位
                    int startIndex = (i * newSize);
                    //截取的结束下标位置
                    int endIndex = (i + 1) * newSize;
                    result = mtTaskMapper.insertList(taskList.subList(startIndex, endIndex));
                }
            }

=还有一种就是达到我们限制的数量就插入

@Override
public int insertList(ArrayList<MtTask> taskList) {
 
if(!CollectionUtils.isEmpty(taskList)){
            List<MtTask> subList = new ArrayList<>();
            int num = 0;
            for (MtTask mtTask : taskList ){
                subList.add(mtTask);
                num ++ ;
                if(num >= 500){
                    mtTaskMapper.insertList(subList);
                    subList.clear();
                    subList = new ArrayList<>();
                }
            }
            if(num > 0){
                mtTaskMapper.insertList(subList);
                subList.clear();
            }
        }
}