sql in查询元素超过1000条如何解决

网友投稿 568 2023-11-07

sql in查询元素超过1000条如何解决

这篇文章主要介绍“sql in查询元素超过1000条如何解决”,在日常操作中,相信很多人在sql in查询元素超过1000条如何解决问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”sql in查询元素超过1000条如何解决”的疑惑有所帮助!接下来,请跟着小编一起来学习吧!

sql in查询元素超过1000条如何解决

一、场景描述

查询机构下的人员,要同时查询出该机构及其所有下级机构的人员;比如查询北京市,不仅要查询出归属于北京市的人员,还要查询归属于出朝阳区、西城区、海淀区等等的人员。

对于这个需求,有以下几种解决思路:

1、之前的系统,他们的机构编码本身有关联,比如北京编码是001的话,昌平区的编码就是0012;这样的话,他们查询可以用like。这种方法的问题是like查询太慢,尤其在数据量大的时候,即使对编码加唯一索引,也只有查最根部机构时可以走索引(因为只有此时才符合最左前缀)。

2、我们的系统没有机构编码,唯一标识是雪花算法生成的19位id,没有关联;机构关系是通过一张关联表组合的起来的(适用于多业务系统,多机构树的情况)。这种情况,可以通过条件从关系表中查出所有下级机构id,然后查询时用in查询;为了方便查询,我们还建了一张机构关系冗余表。

但是这种方法也有一个问题,就是***数据库in查询中元素,必须在1000以内。

二、解决方案

1、方案一:核心思路是,将集合拆分,使用or 连接。select * from A where id in (12, …, 1000or id in (1001, …, 1999)

用mybatis的话就是这样

select * from test_1<where>  <if test="list != null and list.size > 0">     (id IN     <!-- 处理in的集合超过1000条时***不支持的情况 -->     <trim suffixOverrides=" OR id IN()">         <foreach collection="list " item="Id" index="index" open="(" close=")">             <if test="index != 0">                 <choose>                     <when test="index % 1000 == 999">) OR id IN (</when>                     <otherwise>,</otherwise>                 </choose>             </if>             #{Id}         </foreach>     </trim>     )  </if>

但是这种方法不好用,实测中3万条左右的机构,用这种查询查了好久都没出来,感觉数据库都要奔溃了。

2、方案二:用子查询(临时表)+关联查询

一般来说,超过1000多条的数据,肯定不是用户填写的,而是从其他地方查询出来的;我们可以将这些数据放到一个临时表中(用子查询实现),然后用内连接关联查询。

该查询中,机构关系冗余表SEP_SYSTEM_ORG_RELATION中有20多万条数据,但子查询走了我们创建的组合索引;整个查询只用了0.367秒

到此,关于“sql in查询元素超过1000条如何解决”的学习就结束了,希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习,快去试试吧!若想继续学习更多相关知识,请继续关注网站,小编会继续努力为大家带来更多实用的文章!

版权声明:本文内容由网络用户投稿,版权归原作者所有,本站不拥有其著作权,亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容,请联系我们jiasou666@gmail.com 处理,核实后本网站将在24小时内删除侵权内容。

上一篇:数据库中间件扩展性:如何优化和提升性能
下一篇:分布式系统事务:解决多节点数据一致性难题
相关文章