博客
关于我
clickhouse mysql引擎 和 MaterializedMySQL引擎的区别
阅读量:498 次
发布时间:2019-03-07

本文共 1484 字,大约阅读时间需要 4 分钟。

MySQL引擎

MySQL引擎用于将远程MySQL服务器中的表映射到ClickHouse中,允许在ClickHouse与MySQL之间进行数据交换。通过MySQL引擎,可以执行SELECT和INSERT查询,将远程表的数据同步到ClickHouse。MySQL引擎会将查询转换为MySQL语法发送到服务器,您可以执行SHOW TABLES、SHOW CREATE TABLE等操作。

不过,MySQL引擎不支持以下操作:

  • RENAME
  • CREATE TABLE
  • ALTER

Materialized MySQL引擎(实验性功能)

Materialized MySQL引擎用于创建ClickHouse数据库,包含MySQL中所有表及数据。它作为MySQL的副本工作,读取binlog并执行DDL和DML查询。

MySQL服务器端配置

为了确保Materialized MySQL引擎正常工作,需设置以下MySQL配置:

  • default_authentication_plugin = mysql_native_password
  • gtid_mode = on
  • enforce_gtid_consistency = on

虚拟列

在使用Materialized MySQL引擎时,推荐使用以下虚拟列:

  • _version:类型UInt64,用于同步版本控制。
  • _sign:类型Int8,可能值为:
    • 1:表示行未被删除。
    • -1:表示行已被删除。

兼容性限制

在使用Materialized MySQL引擎前,请注意以下限制:

  • MySQL表必须包含PRIMARY KEY。
  • ENUM字段值超出签名范围的表无法复制。
  • Materialized MySQL引擎不支持直接执行INSERT、DELETE和UPDATE查询,但支持通过binlog复制数据。

DDL查询

MySQL的DDL查询会转换为ClickHouse的DDL语法(如ALTER、CREATE、DROP、RENAME)。如果ClickHouse无法解析某个DDL查询,将忽略该操作。

数据复制

Materialized MySQL引擎支持以下数据复制功能:

  • INSERT查询转换为INSERT,携带_sign=1。
  • DELETE查询转换为INSERT,携带_sign=-1。
  • UPDATE查询转换为INSERT,携带_sign=-1(删除旧值)和_sign=1(插入新值)。

查询Materialized MySQL表

SELECT查询Materialized MySQL表时需注意以下细节:

  • 如果未指定_version,默认使用FINAL修饰符,只有带有MAX(_version)的行才会被选中。
  • 如果未指定_sign,默认使用WHERE _sign=1,即未删除的行不会包含在结果集中。
  • 结果集中会包含列的注释信息。

Index Conversion

MySQL的PRIMARY KEY和INDEX子句会转换为ClickHouse的ORDER BY元组。由于ClickHouse只有一个物理顺序,若需创建新顺序,请使用materialized views。

注意事项

  • 带有_sign=-1的行不会从表中物理删除。
  • Materialized MySQL引擎不支持级联UPDATE/DELETE查询。
  • 禁止对数据库和表进行手工操作。
  • 物理删除操作会破坏复制。
  • Materialized MySQL引擎受optimize_on_insert设置的影响,MySQL表结构变化会同步到Materialized MySQL表中。

转载地址:http://wqwcz.baihongyu.com/

你可能感兴趣的文章
Plotly 绘制表面 3D 未显示
查看>>
Plotly-Dash 存在未知问题并创建“加载依赖项时出错“;通过使用 Python-pandas.date_range
查看>>
Plotly-Dash:如何过滤具有多个数据框列的仪表板?
查看>>
Plotly:如何为 x 轴上的时间序列设置主要刻度线/网格线的值?
查看>>
Plotly:如何从 x 轴删除空日期?
查看>>
Plotly:如何从单条迹线制作堆积条形图?
查看>>
Plotly:如何以 Root 样式绘制直方图,仅显示直方图的轮廓?
查看>>
Plotly:如何使用 Plotly Express 组合散点图和线图?
查看>>
Plotly:如何使用 plotly.graph_objects 和 plotly.express 定义图形中的颜色?
查看>>
Plotly:如何使用 Python 对绘图对象条形图进行颜色编码?
查看>>
Plotly:如何使用 updatemenus 更新一个特定的跟踪?
查看>>
Plotly:如何使用长格式或宽格式的 pandas 数据框制作线图?
查看>>
Plotly:如何向烛台图添加交易量
查看>>
Plotly:如何在 plotly express 中找到趋势线的系数?
查看>>
Plotly:如何在桑基图中设置节点位置?
查看>>
Plotly:如何处理重叠的颜色条和图例?
查看>>
Plotly:如何手动设置 plotly express 散点图中点的颜色?
查看>>
Plotly:如何结合 make_subplots() 和 ff.create_distplot()?
查看>>
Plotly:如何绘制累积的“步骤“;直方图?
查看>>
Quartz进一步学习与使用
查看>>