flink

flink

flink sql 批处理

技术共享数栈君 发表了文章 • 0 个评论 • 64 次浏览 • 2024-06-27 19:22 • 来自相关话题

进入flink sql命令行Bashsql-client.shSource 表        与所有 SQL 引擎一样,Flink 查询操作是在表上进行。与传统数据库不同,Flink 不在本地管理静态数据;相反,它的查询在外部表上连续运行。       Fli... ...查看全部

canal原理及使用

技术共享数栈君 发表了文章 • 0 个评论 • 60 次浏览 • 2024-06-26 11:15 • 来自相关话题

什么是canalcanal,主要用途是基于 MySQL 数据库增量日志解析,提供增量数据订阅和消费。这里我们可以简单地把canal理解为一个用来同步增量数据的一个工具。工作原理MySQL主备复制原理MySQL master 将数据变更写入二进制日志( bina... ...查看全部

FLink-Canal

技术共享数栈君 发表了文章 • 0 个评论 • 56 次浏览 • 2024-06-25 10:41 • 来自相关话题

canal formatCanal 是一个 CDC(ChangeLog Data Capture,变更日志数据捕获)工具,可以实时地将 MySQL 变更传输到其他系统。Canal 为变更日志提供了统一的数据格式,并支持使用 JSON 或 protobuf 序列... ...查看全部

Flink关于HiveCatalog

技术共享数栈君 发表了文章 • 0 个评论 • 57 次浏览 • 2024-06-25 10:39 • 来自相关话题

HiveCatalogHiveCatalog 有两个用途:作为原生 Flink 元数据的持久化存储,以及作为读写现有 Hive 元数据的接口。配置在flink-sql-connector-hive-1.2.2_2.12-1.15.0.jar包上传到lfink ... ...查看全部

flink-hive方言配置(Hive Dialect)

技术共享数栈君 发表了文章 • 0 个评论 • 56 次浏览 • 2024-06-24 17:34 • 来自相关话题

简介       在使用 Hive 方言时,Flink 允许用户用 Hive 语法来编写 SQL 语句。 通过提供与 Hive 语法的兼容性,我们旨在改善与 Hive 的互操作性,并减少用户需要在 Flink 和 Hive 之间切换来执行不同语句的情况。配置F... ...查看全部

Flink 中的数据路由机制

知识百科沸羊羊 发表了文章 • 0 个评论 • 58 次浏览 • 2024-06-18 14:36 • 来自相关话题

在实时数据处理领域,Apache Flink凭借其高效的流处理能力和灵活的数据操作,已经成为了众多企业和开发者的首选工具。作为一款高性能的流处理框架,Flink支持事件驱动型的应用,能够处理高速度和高复杂度的数据流。在实现这些功能的过程中,数据路由机制扮演着至... ...查看全部

Flink 在实时金融风险分析中的应用

知识百科沸羊羊 发表了文章 • 0 个评论 • 39 次浏览 • 2024-06-18 14:36 • 来自相关话题

Flink 实时处理数据的弹性调度

知识百科沸羊羊 发表了文章 • 0 个评论 • 53 次浏览 • 2024-06-18 14:36 • 来自相关话题

在大数据时代,实时数据处理已成为企业决策和运营的关键因素。Apache Flink作为一个高性能的流处理框架,提供了灵活且强大的数据处理能力。然而,随着数据量和处理需求的不断变化,如何有效地进行资源管理和调度成为了一个至关重要的问题。Flink的弹性调度正是解... ...查看全部

Flink 处理实时数据的负载均衡策略

知识百科沸羊羊 发表了文章 • 0 个评论 • 40 次浏览 • 2024-06-18 14:35 • 来自相关话题

在当今数据驱动的业务环境中,实时数据处理已成为企业获取竞争优势的关键。Apache Flink作为一个高性能的流处理框架,能够处理高吞吐量的数据流,并支持事件驱动的实时数据分析。随着数据规模的不断扩大和处理需求的日益复杂,如何有效地进行资源管理和负载均衡成为了... ...查看全部

探索 Flink 在实时社交数据分析中的应用

知识百科沸羊羊 发表了文章 • 0 个评论 • 36 次浏览 • 2024-06-18 11:32 • 来自相关话题

“数据驱动”时代,企业为什么需要实时湖仓?

产品交流数栈君 发表了文章 • 0 个评论 • 1031 次浏览 • 2023-09-05 17:42 • 来自相关话题

当谈到数据湖的时候,大家都在说,可以把所有数据(结构化/半结构化/非结构化)一股脑都丢进去,进行统一的元数据管理。然后上层计算对接,进行流批计算/OLAP 分析/算法分析。这个没问题,数据湖确实能承接底层的这部分能力,但是同时出现的问题也是不容忽视的。本文将关... ...查看全部

倒带ChunJun,同心前行|2022年度回顾&2023年共建规划

ChunJun数栈君 发表了文章 • 0 个评论 • 653 次浏览 • 2023-02-15 10:27 • 来自相关话题

ChunJun是一个开始于2018年的批流一体数据集成框架项目,原名FlinkX。2022年2月22日,在FlinkX进行初版开源的整整四年后,技术团队决定对FlinkX进行整体升级,并更名为ChunJun,希望为大家真正提供一个稳定、高效、易用的批流一体的数... ...查看全部

ChunJun 2023年第一期版本迭代问题收集

ChunJun群内解答 回复了问题 • 1 人关注 • 9 个回复 • 882 次浏览 • 2023-02-15 11:21 • 来自相关话题

袋鼠云基于Calcite框架的SQL语法扩展探索

技术共享数栈君 发表了文章 • 0 个评论 • 536 次浏览 • 2023-01-16 16:47 • 来自相关话题

Calcite在大数据系统中有着广泛的运用, 比如Apache Flink, Apache Drill等都大量使用了Calcite,理解Calcite的原理可以说已经成为理解大数据系统中SQL访问层实现原理的必备条件之一。但是不少人在学习Calcite的过程中... ...查看全部

袋鼠云的数据湖解决方案选型的是那个框架?Hudi、Iceberg还是Delta Lake

数据中台群内解答 回复了问题 • 1 人关注 • 1 个回复 • 766 次浏览 • 2022-12-21 14:06 • 来自相关话题

12月8日直播预告丨ChunJun数据安全—Kerberos介绍

ChunJun数栈君 发表了文章 • 0 个评论 • 509 次浏览 • 2022-12-07 16:25 • 来自相关话题

1直播介绍本次直播我们将为大家介绍ChunJun的数据安全验证——Kerberos介绍,我们将从 Kerberos 的概念开始介绍ChunJun 任务提交过程中涉及到的 Kerberos 认证以及数据同步任务运行中是如何进行 Kerberos 认证的。通过本次... ...查看全部

开源共建 | TIS整合数据同步工具ChunJun,携手完善开源生态

ChunJun数栈君 发表了文章 • 0 个评论 • 849 次浏览 • 2022-11-30 10:10 • 来自相关话题

TIS整合ChunJun实操B站视频:https://www.bilibili.com/video/BV1QM411z7w5/?spm_id_from=333.999.0.001ChunJun 概述ChunJun是一款易用、稳定、高效的批流统一的数据集成框架,... ...查看全部

开源共建 | 中国移动冯江涛:ChunJun(原FlinkX)在数据入湖中的应用

ChunJun小美 发表了文章 • 0 个评论 • 637 次浏览 • 2022-11-23 10:45 • 来自相关话题

ChunJun(原 FlinkX)是一个基于 Flink 提供易用、稳定、高效的批流统一的数据集成工具。2018 年 4 月,秉承着开源共享的理念,数栈技术团队在 github 上开源了 FlinkX,承蒙各位开发者的合作共建,FlinkX 得到了快速发展。两... ...查看全部

老哥,请教一下,咱们的框架支持数据的同步过程中的转换操作不。还是必须得端到端字段一一对应。

回复

ChunJun匿名用户 发起了问题 • 1 人关注 • 0 个回复 • 295 次浏览 • 2023-08-31 17:59 • 来自相关话题

按照教程maven编译后报错,是我的姿势不太对么,请教一下。1.12.8版本

回复

ChunJun群内解答 回复了问题 • 1 人关注 • 1 个回复 • 319 次浏览 • 2023-08-31 17:59 • 来自相关话题

flink SQL的状态初始化是在哪个源码实现的?找了很久没有看到相似的?大佬指点一下

回复

ChunJun匿名用户 发起了问题 • 1 人关注 • 0 个回复 • 297 次浏览 • 2023-08-31 17:58 • 来自相关话题

老师您好,我提交一个mysql到hdfs任务后报错,是包没更新到最新吗

回复

ChunJun群内解答 回复了问题 • 1 人关注 • 3 个回复 • 340 次浏览 • 2023-08-31 17:58 • 来自相关话题

为什么我查的mysql中的ADD是一个保留字,但是却在非保留关键字里出现了呢?

回复

ChunJun群内解答 回复了问题 • 1 人关注 • 3 个回复 • 300 次浏览 • 2023-08-31 17:57 • 来自相关话题

大佬们,chunjun框架支持数据etl过程,即数据的转换计算过程

回复

ChunJun匿名用户 发起了问题 • 1 人关注 • 0 个回复 • 288 次浏览 • 2023-08-31 17:57 • 来自相关话题

这段是有解决过网络抖动的问题吗

回复

ChunJun匿名用户 发起了问题 • 1 人关注 • 0 个回复 • 276 次浏览 • 2023-08-31 17:55 • 来自相关话题

这个错误能忽略不?也不知道啥问题

回复

ChunJun匿名用户 发起了问题 • 1 人关注 • 0 个回复 • 275 次浏览 • 2023-08-31 17:54 • 来自相关话题

另外请问一下binlogreader和mysqlcdcreader在实现方式上有什么区别

回复

ChunJun匿名用户 发起了问题 • 1 人关注 • 0 个回复 • 285 次浏览 • 2023-08-31 17:54 • 来自相关话题

请问http源怎么配动态参数,比如分页

回复

ChunJun匿名用户 发起了问题 • 1 人关注 • 0 个回复 • 267 次浏览 • 2023-08-31 17:53 • 来自相关话题

flink sql 批处理

技术共享数栈君 发表了文章 • 0 个评论 • 64 次浏览 • 2024-06-27 19:22 • 来自相关话题

进入flink sql命令行Bashsql-client.shSource 表        与所有 SQL 引擎一样,Flink 查询操作是在表上进行。与传统数据库不同,Flink 不在本地管理静态数据;相反,它的查询在外部表上连续运行。       Fli... ...查看全部

canal原理及使用

技术共享数栈君 发表了文章 • 0 个评论 • 60 次浏览 • 2024-06-26 11:15 • 来自相关话题

什么是canalcanal,主要用途是基于 MySQL 数据库增量日志解析,提供增量数据订阅和消费。这里我们可以简单地把canal理解为一个用来同步增量数据的一个工具。工作原理MySQL主备复制原理MySQL master 将数据变更写入二进制日志( bina... ...查看全部

FLink-Canal

技术共享数栈君 发表了文章 • 0 个评论 • 56 次浏览 • 2024-06-25 10:41 • 来自相关话题

canal formatCanal 是一个 CDC(ChangeLog Data Capture,变更日志数据捕获)工具,可以实时地将 MySQL 变更传输到其他系统。Canal 为变更日志提供了统一的数据格式,并支持使用 JSON 或 protobuf 序列... ...查看全部

Flink关于HiveCatalog

技术共享数栈君 发表了文章 • 0 个评论 • 57 次浏览 • 2024-06-25 10:39 • 来自相关话题

HiveCatalogHiveCatalog 有两个用途:作为原生 Flink 元数据的持久化存储,以及作为读写现有 Hive 元数据的接口。配置在flink-sql-connector-hive-1.2.2_2.12-1.15.0.jar包上传到lfink ... ...查看全部

flink-hive方言配置(Hive Dialect)

技术共享数栈君 发表了文章 • 0 个评论 • 56 次浏览 • 2024-06-24 17:34 • 来自相关话题

简介       在使用 Hive 方言时,Flink 允许用户用 Hive 语法来编写 SQL 语句。 通过提供与 Hive 语法的兼容性,我们旨在改善与 Hive 的互操作性,并减少用户需要在 Flink 和 Hive 之间切换来执行不同语句的情况。配置F... ...查看全部

Flink 中的数据路由机制

知识百科沸羊羊 发表了文章 • 0 个评论 • 58 次浏览 • 2024-06-18 14:36 • 来自相关话题

在实时数据处理领域,Apache Flink凭借其高效的流处理能力和灵活的数据操作,已经成为了众多企业和开发者的首选工具。作为一款高性能的流处理框架,Flink支持事件驱动型的应用,能够处理高速度和高复杂度的数据流。在实现这些功能的过程中,数据路由机制扮演着至... ...查看全部

Flink 在实时金融风险分析中的应用

知识百科沸羊羊 发表了文章 • 0 个评论 • 39 次浏览 • 2024-06-18 14:36 • 来自相关话题

Flink 实时处理数据的弹性调度

知识百科沸羊羊 发表了文章 • 0 个评论 • 53 次浏览 • 2024-06-18 14:36 • 来自相关话题

在大数据时代,实时数据处理已成为企业决策和运营的关键因素。Apache Flink作为一个高性能的流处理框架,提供了灵活且强大的数据处理能力。然而,随着数据量和处理需求的不断变化,如何有效地进行资源管理和调度成为了一个至关重要的问题。Flink的弹性调度正是解... ...查看全部

Flink 处理实时数据的负载均衡策略

知识百科沸羊羊 发表了文章 • 0 个评论 • 40 次浏览 • 2024-06-18 14:35 • 来自相关话题

在当今数据驱动的业务环境中,实时数据处理已成为企业获取竞争优势的关键。Apache Flink作为一个高性能的流处理框架,能够处理高吞吐量的数据流,并支持事件驱动的实时数据分析。随着数据规模的不断扩大和处理需求的日益复杂,如何有效地进行资源管理和负载均衡成为了... ...查看全部

探索 Flink 在实时社交数据分析中的应用

知识百科沸羊羊 发表了文章 • 0 个评论 • 36 次浏览 • 2024-06-18 11:32 • 来自相关话题