MySQL批量插入和唯一索引问题的解决方法

作者:袖梨 2022-06-29

MySQL批量插入问题

在开发项目时,因为有一些旧系统的基础数据需要提前导入,所以我在导入时做了批量导入操作 ,但是因为MySQL中的一次可接受的SQL语句大小受限制所以我每次批量虽然只有500条,但依然无法插入,这个时候代码报错如下:

nested exception is com.mysql.jdbc.PacketTooBigException: Packet for query is too large (5677854 > 1048576).

You can change this value on the server by setting the max_allowed_packet' variable.

根据报错我们很快就可以知道,是SQL语句数据包太大导致,我们可以设置MySQL服务器参数max_allowed_packet来解决这个问题。

解决办法

1.添加【mysqld】下max_allowed_packet参数,设置的尽量大一些。

#找到my.cnf文件
#whereis my.cnf
#vim my.cnf
----------------------------
[mysqld]
max_connections =3000
max_allowed_packet=1024M

#保存后重启mysql服务,即可生效
#service mysqld restart

2.临时设置max_allowed_packet,通过语句设置

myslq>set global max_allowed_packet = 1024*1024*1024

该种方式重启后就max_allowed_packet失效了

默认情况下Mysql参数max_allowed_packet值是1M.

MySQL索引不区分大小写问题

当在MySQL数据库中,创建索引默认是不区分大小写的,比如说如下语句:

CREATE TABLE `location` (
 `id` int(11) NOT NULL AUTO_INCREMENT,
 `rc` varchar(2) DEFAULT NULL COMMENT 'R/C',
 `location_code` varchar(4) DEFAULT NULL COMMENT '地点编码',
 `location_name` varchar(30) DEFAULT NULL COMMENT '地点名称',
 `zip_code` varchar(6) DEFAULT NULL COMMENT '邮编',
 `address` varchar(50) DEFAULT NULL COMMENT '地址',
 `link_man` varchar(15) DEFAULT NULL COMMENT '联系人',
 `link_phone` varchar(30) DEFAULT NULL COMMENT '联系电话',
 `fax` varchar(30) DEFAULT NULL COMMENT '传真',
 `can_accept_car_time` varchar(40) DEFAULT NULL COMMENT '可接车时间',
 `type` varchar(1) DEFAULT NULL COMMENT '分类',
 `maintenance_type` varchar(1) DEFAULT NULL COMMENT '维护类型',
 `brand` varchar(4) DEFAULT NULL COMMENT '品牌',
 `reservation` varchar(40) DEFAULT NULL COMMENT '预留',
 `enable` int(1) DEFAULT '1',
 `msg_code` varchar(64) NOT NULL COMMENT '消息编码',
 `receive_on` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP COMMENT '接收日期',
 `create_on` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP COMMENT '创建日期',
 `modified_on` datetime DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP COMMENT '修改日期',
 PRIMARY KEY (`id`),
 UNIQUE KEY `unique_msg_code` (`msg_code`) USING BTREE,
 UNIQUE KEY `unique_location_code` (`location_code`) USING BTREE
) ENGINE=InnoDB AUTO_INCREMENT=16325 DEFAULT CHARSET=utf8 COMMENT='地址表';

但当我插入地址编码分别为H12C与h12C时,就报错了,抛出异常:Duplicate entry 'H12C' for key 'normal_localtion_code',这里则说明不区分大小写,所以这个地方需要解决这个问题。

解决方法

1.设置字段为Binary,那么索引就可以区分大小写了。

CREATE TABLE `location` (
 `id` int(11) NOT NULL AUTO_INCREMENT,
 `rc` char(2) DEFAULT NULL COMMENT 'R/C',
 `location_code` varchar(4) CHARACTER SET utf8 COLLATE utf8_bin DEFAULT NULL COMMENT '地点编码',
 `location_name` varchar(26) DEFAULT NULL COMMENT '地点名称',
 `zip_code` varchar(6) DEFAULT NULL COMMENT '邮编',
 `address` varchar(50) DEFAULT NULL COMMENT '地址',
 `link_man` varchar(16) DEFAULT NULL COMMENT '联系人',
 `link_phone` varchar(30) DEFAULT NULL COMMENT '联系电话',
 `fax` varchar(30) DEFAULT NULL COMMENT '传真',
 `can_accept_car_time` varchar(40) DEFAULT NULL COMMENT '可接车时间',
 `type` varchar(1) DEFAULT NULL COMMENT '分类',
 `maintenance_type` varchar(1) DEFAULT NULL COMMENT '维护类型',
 `brand` varchar(4) DEFAULT NULL COMMENT '品牌',
 `reservation` varchar(40) DEFAULT NULL COMMENT '预留',
 `enable` int(1) DEFAULT '1',
 `msg_code` varchar(64) NOT NULL COMMENT '消息编码',
 `receive_on` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP COMMENT '接收日期',
 `create_on` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP COMMENT '创建日期',
 `modified_on` datetime DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP COMMENT '修改日期',
 PRIMARY KEY (`id`),
 UNIQUE KEY `unique_msg_code` (`msg_code`) USING BTREE,
 UNIQUE KEY `unique_location_code` (`location_code`) USING BTREE
) ENGINE=InnoDB AUTO_INCREMENT=4092 DEFAULT CHARSET=utf8 COMMENT='地点表';

// 修改原表字典属性:

ALTER TABLE `location`
CHANGE COLUMN `location_code` `location_code` VARCHAR(4) CHARACTER SET 'utf8' BINARY NOT NULL DEFAULT '' ;

上面方法就解决了。

查询时不区分大小写问题

解决方法

1.查询语句加binary

2.与索引解决方案一致,设置字段属性为binary即可。

相关文章

精彩推荐