图解 Flink 的 Checkpoint 机制

Flink是一个分布式的流处理引擎,而流处理的其中一个特点就是7X24。那么,如何保障Flink作业的持续运行呢?Flink的内部会将应用状态(state)存储到本地内存或者嵌入式的kv数据库(RocksDB)中,由于采用的是分布式架构,Flink需要对本地生...

   数栈君  发表于2022-01-25 10:11  346  0

Apache RocketMQ + Hudi 快速构建 Lakehouse

本文目录背景知识大数据时代的构架演进RocketMQ Connector&StreamApache Hudi构建Lakehouse实操本文标题包含三个关键词:Lakehouse、RocketMQ、Hudi。我们先从整体Lakehouse架构入手,随后逐...

   数栈君  发表于2022-01-25 10:08  405  0

Apache Flink 1.14.3 版本发布

2022 年 1 月 17 日 Thomas Weise ( @thweise ) & Martijn Visser ( @martijnvisser82 )Apache Flink 社区发布了 Apache Flink 1.14 系列的第二个 bug...

   数栈君  发表于2022-01-25 10:06  816  0

2022 年数据管理趋势解读!

采用尖端系统、工具和最佳实践可以增强现代组织的能力、推动业务发展并实现突破。数据行业也不例外,每隔几个月就会出现突破性的创新。十年前,支持大数据工作负载的分布式数据管理处于争论的前沿。到 2015 年,分布式系统最常使用本地服务器和集群运行,因为将数据迁移到云...

   数栈君  发表于2022-01-25 10:03  362  0

Vertica集成Apache Hudi指南

1. 摘要本文演示了使用外部表集成 Vertica 和 Apache Hudi。在演示中我们使用 Spark 上的 Apache Hudi 将数据摄取到 S3 中,并使用 Vertica 外部表访问这些数据。2. Apache Hudi介绍Apache Hud...

   数栈君  发表于2022-01-25 09:59  301  0

超大城市精细化治理,上海做对了什么?

2021年是“十四五”的开局之年,也是充满风险和挑战的一年。上海市第十五届人大六次会议1月20日开幕,市长龚正在作政府工作报告时表示,2021年上海精益求精提升城市治理现代化水平,减污降碳和城市精细化管理深入推进;在回顾去年疫情防控工作时龚正说,上海坚定依靠城...

   阿赫  发表于2022-01-24 19:21  265  0

数据库产业发展综述

全球数据库产业生态成熟壮大,在发展过程中,逐渐细分出数据库产品、数据库服务和数据库支撑体系三个细分产业。(一)数据库产业概述来源:中国信息通信研究院图7 数据库产业链全景图数据库产品主要由关系型数据库、非关系型数据库、混合型数据库及数据库周边工具构成。数据库服...

   数栈君  发表于2022-01-21 14:46  294  0

中国信通院李强治:从“十四五”规划看数字经济治理新格局

2022年1月6日,国务院印发了《“十四五”数字经济发展规划》(以下简称“《规划》”),明确将数字经济定义为继农业经济、工业经济之后的主要经济形态,并指出数字经济发展速度之快、辐射范围之广、影响程度之深前所未有,成为重组全球要素资源、重塑全球经济结构、改变全球...

   数栈君  发表于2022-01-20 19:33  289  0

流批一体技术框架探索及在袋鼠云数栈中的实践

关于流批一体数据仓库流批一体是一种架构思想,这种思想说的是同一个业务,使用同一个sql逻辑,在既可以满足流处理计算同时也可以满足批处理任务的计算。从效率层面来说,批处理只能以t+1的形式呈现业务数据,流处理只能以t+0的形式呈现业务数据,当二者独立时企业需要运...

   数栈君  发表于2022-01-20 19:28  1470  0

营销2022:从数字化走向数智化——《市场营销数智化转型指南》

疫情爆发后,中国营销市场的变化一日千里。从传统品牌的转型,到国潮品牌的突围;从小程序商城涌现,到电商直播的渐入佳境;从私域流量崛起,到数字化营销的应用。 追根溯源,是因为云计算、大数据、人工智能、物联网等新技术在营销场景下的应用更加深入。一场数智化风暴,即将席...

   阿赫  发表于2022-01-20 15:43  285  0
835条数据,每页显示10条
社区公告
  • 大数据领域最专业的产品&技术交流社区,专注于探讨与分享大数据领域有趣又火热的信息,专业又专注的数据人园地

最新活动更多
微信扫码获取数字化转型资料
钉钉扫码加入技术交流群