ClickHouse 的物化视图是一种查询结果的持久化,与普通视图对比,其不仅保存了查询的逻辑,还保存了查询结果;
物化视图与普通视图的区别
普通视图不保存数据,保存的仅仅是查询语句,查询的时候还是从原表读取数据,可以将普通视图理解为是个子查询。
物化视图则是把查询的结果根据相应的引擎存入到了磁盘或内存中,对数据重新进行了组织,可以理解物化视图是完全的一张新表。
物化视图的优缺点
- 优点:查询速度快,因为提前进行了预计算
- 缺点:
- 不适用于使用历史数据的场景,因为物化视图的本质是一个流式数据的使用场景,是累加式的技术
- 如果一张表加了好多物化视图,在写这张表的时候,就会消耗很多机器的资源
物化视图建表语法
CREATE [MATERIALIZED] VIEW [IF NOT EXISTS] [db.]table_name [TO[db.]name] [ENGINE = engine] [POPULATE] AS SELECT ...
[MATERIALIZED] VIEW:物化视图
[TO[db.]name] :物化视图创建一个隐藏的目标表来保存视图数据;也可以 TO 表名,保存到一张显式的表;没有加 TO 表名,表名默认就是
.inner.物化视图名
创建物化视图的限制
1.必须指定物化视图的 engine 用于数据存储
2.TO [db].[table]语法的时候,不得使用 POPULATE。
3.查询语句(select)可以包含下面的子句: DISTINCT, GROUP BY, ORDER BY, LIMIT…
4.物化视图的 alter 操作有些限制,操作起来不大方便。
5.若物化视图的定义使用了 TO [db.]name 子语句,则可以将目标表的视图 卸载
DETACH 再装载 ATTACH
物化视图的数据更新策略
(1)物化视图创建好之后,若源表被写入新数据则物化视图也会同步更新
(2)POPULATE 关键字决定了物化视图的更新策略:
若有 POPULATE 则在创建视图的过程会将源表已经存在的数据一并导入,类似于create table ... as
若无 POPULATE 则物化视图在创建之后没有数据,只会在创建只有同步之后写入源表的数据
clickhouse 官方并不推荐使用 POPULATE,因为在创建物化视图的过程中同时写入的数据不能被插入物化视图。
(3)物化视图不支持同步删除,若源表的数据不存在(删除了)则物化视图的数据仍然保留
测试
建表hits_test
CREATE TABLE hits_test
(
EventDate Date,
CounterID UInt32,
UserID UInt64,
URL String,
Income UInt8
)
ENGINE = MergeTree()
PARTITION BY toYYYYMM(EventDate)
ORDER BY (CounterID, EventDate, intHash32(UserID))
SAMPLE BY intHash32(UserID)
SETTINGS index_granularity = 8192
导入数据:
INSERT INTO hits_test
SELECT
EventDate,
CounterID,
UserID,
URL,
Income
FROM hits_v1
limit 10000;
创建物化视图:
CREATE MATERIALIZED VIEW hits_mv
ENGINE=SummingMergeTree()
PARTITION BY toYYYYMM(EventDate)
ORDER BY (EventDate, intHash32(UserID))
AS SELECT
UserID,
EventDate,
count(URL) as ClickCount,
sum(Income) AS IncomeSum
FROM hits_test
WHERE EventDate >= '2014-03-20'
GROUP BY UserID,EventDate;
通过WHERE EventDate >= '2014-03-20'
来设置更新点,该时间点之前的数据可以通过insert手动导入
创建成功后可以看到视图与其对应的内部表:
此时无论查询视图(select * from hits_mv;
)或者内部表(select * from `.inner.hits_mv`;
)均没有数据,因为数据导入实在视图创建之前;
接下来导入增量数据:
INSERT INTO hits_test
SELECT
EventDate,
CounterID,
UserID,
URL,
Income
FROM hits_v1
WHERE EventDate >= '2014-03-23'
limit 10;
查询视图即可看到数据:
如果想要导入历史数据,通过EventDate
条件即可实现,例如:
INSERT INTO hits_mv
SELECT
UserID,
EventDate,
count(URL) as ClickCount,
sum(Income) AS IncomeSum
FROM hits_test
WHERE EventDate = '2014-03-20'
GROUP BY UserID,EventDate