Flink SQL--分组聚合
admin
2024-04-01 07:37:38
0

文章目录

  • 一、DISTINCT Aggregation
  • 二、GROUPING SETS
    • TTL
    • 2.1、ROLLUP
    • 2.2、CUBE
  • 三、HAVING

一、DISTINCT Aggregation

二、GROUPING SETS

在一个GROUP BY 查询中,根据不同的维度组合进行聚合。GROUPING SETS就是一种将多个GROUP BY逻辑 UNION 在一起。GROUPING SETS会把在单个GROUP BY逻辑中没有参与GROUP BY的那一列置为NULL值。空分组集意味着所有行都聚合到一个组中

SELECT supplier_id, rating, COUNT(*) AS total
FROM (VALUES('supplier1', 'product1', 4),('supplier1', 'product2', 3),('supplier2', 'product3', 3),('supplier2', 'product4', 4))
AS Products(supplier_id, product_id, rating)
GROUP BY GROUPING SETS ((supplier_id, rating), (supplier_id), ())
Results:+-------------+--------+-------+
| supplier_id | rating | total |
+-------------+--------+-------+
|   supplier1 |      4 |     1 |
|   supplier1 |      3 |     1 |
|   supplier2 |      3 |     1 |
|   supplier2 |      4 |     1 ||   supplier1 | (NULL) |     2 |
|   supplier2 | (NULL) |     2 ||      (NULL) | (NULL) |     4 |
+-------------+--------+-------+

TTL

在持续查询的过程中,由于用于分组的 key 可能会不断增加,因此计算结果所需要维护的状态也会持续增长。为了防止状态无限增长耗尽资源,Flink Table API 和 SQL 可以在表环境中配置状态的生存时间(TTL)table.exec.state.ttl

配置 TTL 有可能会导致统计结果不准确,这其实是以牺牲正确性为代价换取了资源的释放

2.1、ROLLUP

ROLLUP 相当于 GROUPING SETS 的简化

SELECT supplier_id, rating, COUNT(*)
FROM (VALUES('supplier1', 'product1', 4),('supplier1', 'product2', 3),('supplier2', 'product3', 3),('supplier2', 'product4', 4))
AS Products(supplier_id, product_id, rating)
GROUP BY ROLLUP (supplier_id, rating)等价于
SELECT supplier_id, rating, COUNT(*)
FROM (VALUES('supplier1', 'product1', 4),('supplier1', 'product2', 3),('supplier2', 'product3', 3),('supplier2', 'product4', 4))
AS Products(supplier_id, product_id, rating)
GROUP BY GROUPING SETS (( supplier_id, rating ),( supplier_id         ),(                     )
)--- 三个字段分组
SELECT supplier_id, rating,product_id, COUNT(*)
FROM (VALUES('supplier1', 'product1', 4),('supplier1', 'product2', 3),('supplier2', 'product3', 3),('supplier2', 'product4', 4))
AS Products(supplier_id, product_id, rating)
GROUP BY ROLLUP(supplier_id, rating,product_id)
等价于
SELECT supplier_id, rating, product_id, COUNT(*)
FROM (VALUES('supplier1', 'product1', 4),('supplier1', 'product2', 3),('supplier2', 'product3', 3),('supplier2', 'product4', 4))
AS Products(supplier_id, product_id, rating)
GROUP BY GROUPING SETS (( supplier_id, product_id, rating ),( supplier_id, product_id         ),( supplier_id                     ),(                                 )
)

2.2、CUBE


SELECT supplier_id, rating,product_id, COUNT(*)
FROM (VALUES('supplier1', 'product1', 4),('supplier1', 'product2', 3),('supplier2', 'product3', 3),('supplier2', 'product4', 4))
AS Products(supplier_id, product_id, rating)
GROUP BY CUBE(supplier_id, rating,product_id)等价于
SELECT supplier_id, rating, product_id, COUNT(*)
FROM (VALUES('supplier1', 'product1', 4),('supplier1', 'product2', 3),('supplier2', 'product3', 3),('supplier2', 'product4', 4))
AS Products(supplier_id, product_id, rating)
GROUP BY GROUPING SETS (( supplier_id, product_id, rating ),( supplier_id, product_id         ),( supplier_id,             rating ),( supplier_id                     ),(              product_id, rating ),(              product_id         ),(                          rating ),(                                 )
)

下面是 CUBE 和 ROLLUP 之间的具体区别:

  • CUBE 生成的结果集显示了所选列中值的所有组合的聚合
  • ROLLUP 生成的结果集显示了所选列中值的某一层次结构的聚合

三、HAVING

用于分组后的过滤条件

相关内容

热门资讯

安卓系统可用版本怎么查,基于安... 你有没有想过,你的安卓手机里藏着多少秘密?比如,它的系统版本是多少?这可是关系到你手机性能和兼容性的...
安卓系统谷歌官方字体 你知道吗?在安卓系统的世界里,有一种字体,它就像一位优雅的舞者,在屏幕上跳着优美的舞蹈。它就是谷歌官...
安卓如何允许系统Google,... 你有没有想过,为什么你的安卓手机里总是有那么多谷歌的影子?别急,今天就来给你揭秘安卓系统是如何允许谷...
安卓系统怎么开放权限,解锁设备... 你有没有遇到过这种情况:手机里装了那么多好用的APP,可就是有些功能用不了,因为权限没开放!别急,今...
安卓手机刷xp系统能用,探索跨... 你有没有想过,把那台老旧的安卓手机改头换面,让它焕发第二春呢?没错,我要说的是,安卓手机刷xp系统竟...
英雄友谊安卓系统能玩吗,畅享跨... 亲爱的读者,你是否曾在某个午后,手握手机,沉浸在英雄与友谊的世界中?今天,我要跟你聊聊一个热门话题—...
安卓手机系统有分身吗,分身功能... 你有没有想过,你的安卓手机里是不是也藏着一个分身呢?没错,就是那种可以让你同时使用两个账号、两个应用...
安卓系统有没有北斗导航 你有没有想过,你的安卓手机里是不是藏着个神秘的北斗导航小能手呢?没错,今天咱们就来聊聊这个话题——安...
黑暗传说安卓系统能玩吗,畅玩无... 亲爱的玩家们,你是否曾在深夜里,被那些神秘而古老的传说所吸引?今天,我要跟你聊聊一个让人心跳加速的话...
平板电脑安卓系统没有wifi,... 亲爱的读者,你是否也有过这样的经历:拿着心爱的平板电脑,却发现它竟然没有连接上WiFi?这可真是让人...
采集无锡安卓系统的公司,技术驱... 你有没有想过,在这个科技飞速发展的时代,手机操作系统的重要性简直不言而喻?而在中国,有一个城市,它的...
安卓系统期末考试,全面解析与备... 亲爱的读者们,你是否也像我一样,最近被安卓系统的期末考试搞得焦头烂额?没错,就是那个看似简单,实则暗...
名图支持安卓系统吗,安卓系统下... 最近有没有听说一个超级火的图片编辑软件——名图?相信很多人都在用它来修图、美颜,甚至创作一些有趣的图...
安卓仿苹果八系统,创新体验 你有没有发现,最近安卓手机界掀起了一股仿苹果八系统的热潮?没错,就是那个曾经让我们惊艳的iPhone...
在linux安卓windows... 你有没有想过,无论你是用电脑办公,还是用手机刷剧,这些设备背后的操作系统可是起着至关重要的作用呢?今...
安卓原生系统修改键位,键位修改... 你有没有发现,用安卓手机的时候,有时候按错键位真是让人头疼?别急,今天就来给你详细聊聊安卓原生系统修...
安卓系统手游排行,指尖上的娱乐... 你有没有发现,最近手机上玩的手游越来越多了?各种类型、各种画风,简直让人眼花缭乱。今天,就让我带你一...
原生态安卓系统主题,尽享纯净视... 你有没有发现,手机的世界里,主题就像是衣服,可以瞬间改变整个手机的气质呢?今天,就让我带你一起探索一...
安卓手机刷系统需要密码 你有没有遇到过这种情况:安卓手机刷系统时,突然蹦出一个密码提示,让你一头雾水?别急,今天就来给你详细...
京东读书安卓系统退出,轻松告别... 你知道吗?最近在互联网上掀起了一阵小小的波澜,那就是京东读书安卓系统的退出。这事儿可不小,毕竟京东读...