版本新特性概览云数据库lickouse

本文介绍云数据库ClickHouse22.8版本推出的新特性。

扩展Date32和DateTime64类型,将日期支持范围从之前版本的1925年~2283年,扩展到1900年~2299年。

22.8版本MergeTree引擎表支持标准的DELETE FROM SQL语法,同时实现了轻量级删除的逻辑。在之前版本中,云数据库ClickHouse的DELETE操作是Mutation类操作,所有的DELETE事件都是先通过文件进行单独记录存储,然后再基于内核调度不定时的异步执行,另外执行过程也比较复杂,需要定位到相应的记录,进行实际的物理删除。

旧版本的DELETE语法如下:

新版本的DELETE语法如下:

示例如下:

标准SQL语法的支持,相比较之前的Mutation类操作方式,增强了开发的便利性。根据官方的性能测试结果,在单表1亿记录总量,110个数据分区规模下,轻量级删除的性能较之前版本提升了近40倍左右,性能提升明显。但当前DELETE语法的实现仍然默认是异步执行。其内部基于ClickHouse的列更新机制,在数据分区中增加了系统虚拟列“_row_exists”,通过update_row_exists=0 where predicate来标记行是“已删除”状态。

在22.8之前的版本中,ClickHouse支持以String类型来存储JSON对象,因为JSON对象是文本格式,需要通过特殊的String解析函数来解析复杂的JSON结构,从而获得JSON对象内部字段信息。这种String类型存储方式,内部多个字段混合存储,针对内部特定属性的查询会带有额外的字段扫描消耗,因此查询效率非常低。同时使用起来也比较麻烦,如果JSON数据存在多层嵌套,那么查询JSON数据就需要一层层去进行解析和类型转换,才能被业务使用。示例如下:

新版本中推出了独立JSON对象类型,DDL操作时JSON对象只需要指定JSON类型即可。同时引擎针对每个写入的JSON对象值进行动态类型匹配,每个JSON属性按照独立列进行存储。当新写入的JSON对象值和之前的类型不匹配时,引擎会动态修改列类型来兼容所有的数据类型,对于新增JSON属性也会动态增加新的列进行数据的存储。示例如下:

动态子列的支持,大幅提高了非结构化数据的分析效率和扩展性。

对于常见的导入OSS数据到ClickHouse,在22.8之前版本中如果要实现JSON对象子列的独立存储和高效分析,那么就必须预先在ClickHouse建立结构化的目标表,并明确定义每个字段的数据类型,才能将半结构化的JSON数据写入到ClickHouse中。如果JSON对象结构变更,那么需要同时修改目标表的表结构,才能适配写入。

而新版本中由于有了动态子列,开发者完全不需要关心JSON的嵌套层次和内部数据类型,只需要在目标表中创建JSON数据类型字段,直接将半结构化的数据批量导入到ClickHouse目标表中即可。同时在业务变更JSON对象属性增加的情况下,也不需要修改目标表的结构,内核会动态增加子列,并进行数据存储,扩展灵活度大幅提升。示例如下:

读取数据时不需要按照字符串进行解析和类型转换,可直接基于JSON对象进行属性的嵌套读取。动态子列的支持大大提升了JSON类型数据的存储和查询效率。根据社区官方的测试结果,新版本JSON对比老版本String整体查询效率提升了40倍左右。示例如下:

当ClickHouse从本地磁盘文件系统读取数据时是非常快的,例如阿里云ECS本地盘或者云盘上的数据被OSS缓存在Page Cache中再进行读取。但是,如果ClickHouse从远程文件系统(例如OSS)读取数据,则系统不会感知到这些读取,且无法使用Page Cache。在22.8版本中,ClickHouse内核层面实现了引擎级别的远程文件系统的缓存,缓存同时使用本地磁盘和RAM,极大地提高了性能。

云数据库ClickHouse云原生版基于对象存储OSS实现了基于多计算节点共享存储的存算分离架构,通过应用引擎的缓存能力保证了云原生版本的查询性能。

22.8版本除了以上的重要的特性发布之外,还带来一些其他特性,例如:

Projection:源表数据的一致性增强。同时基于“空间换效率”的逻辑,创建基于不同排序索引维度的物理表,数十倍地提高了非排序键数据的查询效率。

用户自定义函数:支持SQL模式和脚本模式的用户自定义函数,提高了用户自主进行数据清洗和处理的能力。

关注阿里云公众号或下载阿里云APP,关注云资讯,随时随地运维管控云服务

THE END
0.JSON在线解析|菜鸟工具JSON 在线解析是一款 JSON 格式化工具,你可以在线验证、编辑和格式化 JSON 数据,格式化后的 JSON 数据以树形结构展示,更易于阅读,此外还可以将 JSON 转换为 XML、YAML、CSV格式。..jvzquC41e0xvpxtd0eun1owqpv3fpm4751
1.Json常用组件开发者:json官网:http://www.json.org/。 适用环境:用于在不支持JSON对象的浏览器(通常是国内使用IE内核的第三方浏览器)下使用。json2.js提供了json的序列化和反序列化方法,可以将一个json对象转换成json字符串,也可以将一个json字符串转换成一个json对象 下载地址: http://json.cn/js/json2.js。 安装jvzquC41yy}/l|tp0et0exrrqpkov7mvon
2.分享两个很有用的json有关的网站包含json在线解析解析格式化校验等功本文介绍两款实用的在线JSON工具:BeJSON 和 JSON.cn。这两款工具可以帮助用户进行JSON格式的校验、解析与格式化验证,是开发人员进行前后端数据交互调试的好帮手。 1.在线JSON校验格式化工具(Be JSON)http://www.bejson.com/ 包含了诸多功能 2.JSON在线解析及格式化验证 - JSON.cnhttps://www.json.cn/jvzquC41dnuh0lxfp0tfv8vsa3:92B>351gsvrhng1jfvjnnu1>23;7566
3.手把手教你写一个JSON在线解析的前端网站1json在线解析网站我自己搞的小网站在Google搜索上还排不上号,这里王婆卖瓜,自卖自夸一下,也分享一下子。 json2.top网站: https://www.json2.top/ 之前用的多,基本是直接json.cn来解决问题。现在用自己搭建的json2.top,感觉更爽一些😂。 技术实现 json2.top这个站点完全是一个前端项目,不涉及一点后端相关的技术。纯jQueryjvzquC41dnuh0lxfp0tfv8}zz:84;>75975bt}neng5eg}fknu525<<::8;8
4.JSONSchemaWhy JSON Schema? While JSON is probably the most popular format for exchanging data, JSON Schema is the vocabulary that enables JSON data consistency, validity, and interoperability at scale. Streamline testing and validation Simplify your validation logic to reduce your code’s complexity and save jvzq<84luqt.ulmgoc4ptp4
5.如何检查JSON格式的合法性?推荐几个网站json格式检查我们在使用JSON格式文件时,经常会出现JSON格式数据的合法性报错的情况,需要有个工具来帮我们检查JSON格式数据的合法性。当前,有很多优秀的在线工具可以检查JSON格式的合法性。根据不同需求(如简单验证、格式化、修复错误等),推荐以下几个最常用和可靠的网站: jvzquC41dnuh0lxfp0tfv8hkecjb3>4ctvodnn4fgvgjn|43738:8@;:
6.BeJSON—实用网站(一)"json数据格式"},{"type":"sug","sa":"s_6","q":"json数据库"},{"type":"sug","sa":"s_7","q":"json是什么意思"},{"type":"sug","sa":"s_8","q":"json数组格式样例"},{"type":"sug","sa":"s_9","q":"jsonserver"},{"type":"sug","sa":"s_10","q":"jsonjvzquC41dnuh0lxfp0tfv8v{:3>:1jwvkerf1mjvckrt1:7::6>:7?
7.在线JSON格式化解析工具免费在线JSON格式化工具,支持JSON数据美化、压缩、验证和解析。快速格式化JSON字符串,压缩JSON数据体积,实时语法高亮显示,是开发者的必备JSON工具。jvzquC41qjfyjsi0eun1SxqpAJfoxBVtwk
8.JSON对象相比XML 格式,JSON 格式有两个显著的优点:书写简单,一目了然;符合 JavaScript 原生语法,可以由解释引擎直接处理,不用另外添加解析代码。所以,JSON 迅速被接受,已经成为各大网站交换数据的标准格式,并被写入标准。 每个JSON 对象就是一个值,可能是一个数组或对象,也可能是一个原始类型的值。总之,只能是一个值,不jvzquC41yy}/5?5fqe4dp8ftvkimg8;;5864;77A=450nuou
9.JSON格式化json在线解析工具在线json格式校验|压缩iP138在线工具JSON格式化工具是一款json在线解析工具,能实现JSON格式化、JSON压缩、JSON在线解析、JSON验证等功能,格式化后的JSON数据,代码颜色高亮,帮您快速实识数据中的字段。 JSON检验失败可能的原因 JSON字符串里的非数字型键值没有双引号 JSON中存在\t这样的制表符,看起来和空格一样,但是就是因为它的存在校验不通过。 jvzquC41vqum0ru35:4dqv4luqt0
10.在线JSON校验格式化解析工具(JSON.La)但是,在线的JSON工具现在有很多,本站(json.la)就是一个很好的JSON工具,支持JSON各种操作。 1. JSON格式化校验 很多人在得到JSON数据后,一时没有办法判断JSON数据格式是否正确,是否少或多符号而导致程序不能解析,这个功能正好能帮助大家来完成JSON格式的校验。 jvzquC41luuo0uf1fczb0qyon
11.使用格式查看JSON文件或服务器响应从网站检测 Microsoft Edge 开发Microsoft Edge 中边栏的体验 使用User-Agent 客户端提示检测Windows 11和 CPU 体系结构 自定义“密码显示”按钮 根据OS 设置显示站点的区域版本 使用格式查看 JSON 文件或服务器响应 Microsoft Edge IDE 集成 Microsoft Edge 中的辅助功能 jvzquC41nggsp7rketutqoy0eqs0|q2ep1sje{tuqhz.gmlg1fkwvxtnu/mvkmj/ejxporzo1lypp6{kgyks1sxqp/|jg€jt
12.JSON格式校验9 1 › 请输入JSON字符串 格式化并校验 格式化 清空jvzquC41yy}/7:yqmkz/exr1luuo1fnkfgug
13.JSON基本使用教程javascript技巧JSON,全称是 JavaScript Object Notation,即 JavaScript对象标记法。 JSON是一种轻量级(Light-Meight)、基于文本的(Text-Based)、可读的(Human-Readable)格式。 JSON 的名称中虽然带有JavaScript,但这是指其语法规则是参考JavaScript对象的,而不是指只能用于JavaScriptjvzquC41yy}/lk:30pku1jwvkerf1;<646:/j}r
14.json格式转换网站俞宝儿<2025年9月> 日一二三四五六 31123456 78910111213 14151617181920 21222324252627 2829301234 567891011 公告 昵称:俞宝儿 园龄:6年5个月 粉丝:0 关注:0 +加关注 https://www.json.cn/ 标签:json格式转换网站 好文要顶关注我收藏该文微信分享 俞宝儿 jvzquC41yy}/ewgnqiy/exr1{whbq}juv1v039;846720qyon
15.Json在线格式化工具Json解析视图查看器Json在线格式化工具,提供json解析视图查看器工具(Json解析视图查看器,将格式化Json字符串为规范的Json格式) 缩进量123456引号全选复制代码 显示控制展开叠起2级3级4级5级6级7级8级 以下原因会造成Json校验失败 让你不容易查明真相的错误原因: 1,Json字符串里的非数字类型键值没有带双引号 jvzquC41yy}/i|jgp0ipo8tpnktfa}tqnu5kuxsavqum1sxqpazprhg
16.JSON在线解析及格式验证Json推广,并提供相关的Json解析、验证、格式化、压缩、编辑器等服务jvzq<84yyy4kuxsu0erpwm4
17.Java常用的几种JSON解析工具有时候,你的 JSON 字符串中的 key 可能与 Java 对象中的字段不匹配,如大小写;有时,您需要指定一些字段序列化,但不反序列化;有时,您需要将日期字段显示为指定格式。我们只需要添加相应的字段 @JSONField 注释就够了。name 用于指定字段的名称,format 用于指定日期格式,serialize 和 deserialize 用于指定序列化和反jvzquC41yy}/v~qkpi~vg‚zcp0io1}q|z1ptr887274ivvq
18.在线检测JSON格式是否正确的网站lzp的bky在线检测JSON格式是否正确的网站 https://jsonlint.com/ 此网站直接黏贴要检测的json到框里,一键检查,定位到错误,非常实用。省去了自己用别的工具检测的麻烦。jvzquC41yy}/ewgnqiy/exr1nkgoiƒu1r1>32?72;0nuou
19.JSON在线|在线JSON校验格式化解析工具(JSON.La)"支持XML转换":"支持XML转换Json,Json转XML", "Json格式验证":"更详细准确的错误信息", "JSON压缩转义":"靠别拼串痛苦的时代", "中文符号转英文符号":"一键检查由于符号错误导致JSON错误。", "结果存储":"支持保存结果到本地,复制结果集。" }, jvzquC41luuo0uf1