前几天参加了一个公司的面试,到了后面面试官出了一个SQL相关的题目:
给定访问id,用户id,页面id,访问时间,求出最近一个月对id为100的页面有访问记录且访问该页面次数大于10次的用户id
数据的形式类似于以下这样(表名为views):
view_id | user_id | page_id | view_time |
---|---|---|---|
1 | abc | 100 | 2021-01-15 |
2 | def | 101 | 2021-02-01 |
... | ... | ... | ... |
当时为了稳妥起见,我的第一反应是使用窗口函数,
select distinct(user_id) from
(select *, count(*) over (partition by page_id, user_id) as view_cnt,
last_value(view_time, 0) over (partition by page_id, user_id) as recent_time
from views)
where view_cnt > 10 and datediff(curdate(), recent_time) < 31 and page_id = 100
然后面试官问:“还有没有什么简便的方法么?”
很明显他的意思是要用传统的groupby来完成这个查询,确实我之前的查询又是用窗口函数又是加了distinct确实是复杂一些。
于是我用group by再写了一遍。
select (user_id) from
(select *, count(*) as view_cnt,
max(view_time) as recent_time
from views
group by page_id, user_id)
where view_cnt > 10 and datediff(curdate(), recent_time) < 31 and page_id = 100
看完我的查询之后,面试官又问了一句:“可以不需要使用嵌套查询吗?”
当时我的回答是”应该不行,如果不使用嵌套而直接在group by后面加having的话sql会报错,就和where如果使用别名查询就会报错一样“
后面面试完想了一下,发现自己当时回答得不好,不是正确的但也不完全错,不是正确的原因是按照sql的规则having后面是可以拿聚合函数做判断的,但是不完全错的原因是如果having用的是像我之前设置的别名来判断的话,确实是会出错的。(虽然mysql在5.6之后基于sql的规则对group by进行拓展,支持这种写法。但在其它sql上面用别名having还是不行的)
我们可以从SQL运行时各部分的执行顺序来进行分析,当我们选择执行一个SQL语句的时候,它会按照以下的顺序来进行操作,
- FROM
- WHERE
- GROUP BY
- HAVING
- SELECT
- DISTINCT
- ORDER BY
- LIMIT
这个执行顺序的设计是很巧妙的,我说一下我自己对于上述顺序的理解,
1. FROM
顾名思义,当执行查询语句的时候,首先需要知道的是它需要哪些表,正如我们去一个地方需要知道它的具体位置一样。如果需要多个表的话在这一部分也需要按照一定的顺序进行表的join操作。
2. WHERE
当确定我们需要读取哪一张表(或者多张表)的数据之后,我们就需要进行where的filter操作,根据filter尽量减少读取的数据数量。
与此同时,由于where早于select执行,那么它是不知道select语句里面定义的别名的,所以在这里使用别名会导致SQL报错。
那么问题来了,为什么where的优先级要比group by,having, select之类的要高呢?
第一个原因是可以减少不必要的查询量,加快执行语句的速度,类似于Apache Spark在对查询语句进行逻辑优化时需要用到的谓词下推类似的道理。举个栗子,比如我们可能需要userid从100到300的用户对于某一个页面的浏览次数,那么如果先执行group by再执行where的话,userid小于100的用户的数据也会被汇总进去,但实际上这些部分的数据是完全不需要的,计算它们完全是浪费系统资源(而且group by操作本身就是很耗资源的操作)
3. GROUP BY
在完成where操作的过滤之后,如果语句中有group by的话则会对过滤后的数据进行聚合操作,聚合操作是多对一的转换,因此在聚合操作过后,除了用于group by的字段之外,其它字段的原始数据将会丢失,只能得到它们相应的聚合结果(比如sum(), avg()这样)
在完成聚合操作之后,参与group by的字段以及其它字段对应的聚合值已经处于已知状态,后续的操作可以直接使用它们。
4. HAVING
HAVING操作主要做的是对group by之后的分组结果进行过滤,可以根据参与group by的字段进行过滤,也可以根据其它字段的聚合值进行过滤。(因为聚合值在这里已经算是已知数据)因此这里是可以拿聚合函数做判断的,比如最开始的那个查询的例子,可以直接写成以下的形式,
select user_id
from views
where page_id = 100
group by page_id, user_id
having count(*) > 10 and datediff(curdate(), max(view_time)) < 31 and page_id = 100
这里需要注意的是,虽然聚合函数可以用于做having里面的判断条件,但是它们在select里面设置的别名是不可以的,因为此时还没进行select阶段,SQL并不知道它们的别名是什么样子。
(MySQL5.6及以上版本对group by进行了拓展,这些版本可以在having的时候使用别名。如果不希望使用的话,可以将MySQL的sql_mode调为ONLY_FULL_GROUP_BY 参考链接 )
HAVING并不是一定要和group by成对出现的,它也可以单独存在,在没有group by的时候,此时默认只有一个组,但是需要注意的是这时having里面参与过滤的字段需要在select里面存在,不然having会不知道这是分组里面的内容而导致报错。
5. SELECT
选取结果集中相对应的字段,在select中为字段设置的别名在此阶段及之后的操作中生效。
6. DISTINCT
去重操作,放在select之后有个原因是去重操作是要根据select里面所选字段来进行的。
需要注意的是distinct去重是只去重所有和已选字段完全重复的数据,举个栗子,select distinct name, city只会去重姓名和城市完全重复的数据,而如果只有姓名相同,而城市不同,那么不会发生去重操作
7. ORDER BY
对得到的结果按照特定字段顺序进行排列,这里可以使用别名
8. LIMIT
设置显示结果集中的几条数据
通过分析MySQL中各部分的执行顺序,我们就不难理解为什么where不能有别名,而having可以用聚合函数来判断的原因,而且借此机会重新温习一遍SQL各部分对应的功能,加深理解,可以说是一举两得。