发布时间:2025-11-05 07:33:49 来源:创站工坊 作者:数据库
最近部分销售人员反馈在 APP 上查询自己名下客户订单数据时,查询出现当往下拉取数据的数据失遇时候,列表上经常出现重复的重复订单数据,经过排查,或丢后端代码是到过通过如下方式来实现数据的分页查询的。
复制limit offset,分页 size order by create_time desc1.经过细致的分析,这种排序方式,查询出现在 app 端分页查询的数据失遇时候,确实存在问题。重复
详细的或丢分析过程如下!
首先我们初始化一张表,分页用于模拟订单表查询。查询出现
复制CREATE TABLE `tb_order` ( `order_id` bigint(11) unsigned NOT NULL,数据失遇 `create_time` datetime DEFAULT NULL, PRIMARY KEY (`id`)) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4;1.2.3.4.5.然后初始化 5 条数据进去,方便数据分析
复制INSERT INTO `tb_order` (`order_id`, `create_time`) VALUES (1, 2023-03-03 12:00:01);INSERT INTO `tb_order` (`order_id`, `create_time`) VALUES (2, 2023-03-03 12:00:02);INSERT INTO `tb_order` (`order_id`, `create_time`) VALUES (3, 2023-03-03 12:00:03);INSERT INTO `tb_order` (`order_id`, `create_time`) VALUES (4, 2023-03-03 12:00:04);INSERT INTO `tb_order` (`order_id`, `create_time`) VALUES (5, 2023-03-03 12:00:05);1.2.3.4.5.假设我们每次只查询 2 条数据,并且按照时间倒序来查询,结果如下:
复制-- 发起第一页查询select * from tb_order order by create_time desc limit 0,2;-- 第一页查询结果|order_id | create_time ||5 | 2023-03-03 12:00:05||4 | 2023-03-03 12:00:04|-- 发起第二页查询select * from tb_order order by create_time desc limit 2,2;-- 第二页查询结果|order_id | create_time ||3 | 2023-03-03 12:00:03||2 | 2023-03-03 12:00:02|1.2.3.4.5.6.7.8.9.10.11.12.13.当订单数据没有发生变动的时候,这种查询方式是不会造成出现重复的数据问题。
但是当订单数据发生了变动,比如在查询的时候,IT技术网突然新增了订单数据,此时的查询结果就完全不一样了。
还是以上面为例,假设在第一次查询的时候,突然新增了一条数据,看看结果如何。
复制-- 发起第一页查询select * from tb_order order by create_time desc limit 0,2;-- 第一页查询结果|order_id | create_time ||5 | 2023-03-03 12:00:05||4 | 2023-03-03 12:00:04|-- 新增一条订单数据INSERT INTO `tb_order` (`order_id`, `create_time`) VALUES (6, 2023-03-03 12:00:06);-- 发起第二页查询select * from tb_order order by create_time desc limit 2,2;-- 第二页查询结果|order_id | create_time ||4 | 2023-03-03 12:00:04||3 | 2023-03-03 12:00:03|1.2.3.4.5.6.7.8.9.10.11.12.13.14.15.16.可以很明显的发现,订单ID=4的数据,出现在页面上两次,正常情况下只有一次!

上面说到的是新增一条数据,假设删除某条数据,看看结果如何。
复制-- 发起第一页查询select * from tb_order order by create_time desc limit 0,2;-- 第一页查询结果|order_id | create_time ||5 | 2023-03-03 12:00:05||4 | 2023-03-03 12:00:04|-- 删除一条订单数据delete from tb_order where order_id = 4;-- 发起第二页查询select * from tb_order order by create_time desc limit 2,2;-- 第二页查询结果|order_id | create_time ||2 | 2023-03-03 12:00:02||1 | 2023-03-03 12:00:01|1.2.3.4.5.6.7.8.9.10.11.12.13.14.15.16.可以很明显的发现,删除订单ID=4的数据之后,页面查询结果直接到订单ID=2了,直接跳过订单ID=3了,也就是说订单ID=3的数据展示,丢失了!

总结下来,结论如下!
当新增某条数据之后,云南idc服务商通过常规的分页查询,列表会出现数据重复的现象;当删除某条数据之后,通过常规的分页查询,列表会出现数据丢失的现象;那怎么解决以上的问题呢?办法如下!
针对上面所说的分页查询方式,我们需要做一些调整,调整办法如下:
第一步:当查询出当页的数据之后,记录下本次拉取的最后一条数据的排序字段值;当发起下一页数据查询的时候,带上这个参数,服务端通过这个参数做过滤条件第二步:排序字段值不能出现重复以上面的新增为例,详细的实践过程如下:
复制-- 发起第一页查询select * from tb_order order by create_time desc limit 0,2;-- 第一页查询结果|order_id | create_time ||5 | 2023-03-03 12:00:05||4 | 2023-03-03 12:00:04|-- 新增一条订单数据INSERT INTO `tb_order` (`order_id`, `create_time`) VALUES (6, 2023-03-03 12:00:06);-- 发起第二页查询,带上第一页查询的最后一条数据的排序字段值select * from tb_order where create_time < 2023-03-03 12:00:04 order by create_time desc limit 0,2;-- 第二页查询结果|order_id | create_time ||3 | 2023-03-03 12:00:03||2 | 2023-03-03 12:00:02|1.2.3.4.5.6.7.8.9.10.11.12.13.14.15.16.此时的查询结果正常,符合预期效果!
同样的,以上面的删除为例,免费源码下载详细的实践过程如下:
复制-- 发起第一页查询select * from tb_order order by create_time desc limit 0,2;-- 第一页查询结果|order_id | create_time ||5 | 2023-03-03 12:00:05||4 | 2023-03-03 12:00:04|-- 删除一条订单数据delete from tb_order where order_id = 4;-- 发起第二页查询select * from tb_order where create_time < 2023-03-03 12:00:04 order by create_time desc limit 0,2;-- 第二页查询结果|order_id | create_time ||3 | 2023-03-03 12:00:03||2 | 2023-03-03 12:00:02|1.2.3.4.5.6.7.8.9.10.11.12.13.14.15.16.查询结果与预期一致,正常!
在上面我们提到了,排序字段值不能出现重复的要求,但是现实的情况是,如果以订单的创建时间来排序,当同一秒多次下单的时候大概率会出现重复,这个时候只能在订单表里面新增一个排序字段,设置全局唯一索引,内容是以时间为基础来生成,比如雪花算法,或者自己写一个基于时间全局自增的算法,确保全局唯一,最重要的是值的长度必须固定,订单主键 ID 的生成规则推荐采用此方式,利用主键 ID 来排序效率查询会非常高!
当出现多个排序字段时,如何处理?如果是 app 端的查询,不建议设计多字段排序,因为在多字段排序的环境下,服务端在进行多条件的过滤查询时,可能会把有效的数据给过滤掉,如果无法避开,尽量将多个排序字段合并到一个排序字段上,保证数据的查询符合预期。
本文主要围绕 app 端分页查询出现数据重复或丢失的问题,进行一次复盘总结,如果有描述不对的地方,欢迎网友留言指出!
1、知乎 - HQGDD - 分页出现数据重复或丢失的问题,一文搞定!