Chunjun提供了哪些类型的catalog? 支持kafka json么?
匿名用户
发布于 2023-03-20 11:40
最新回复 2023-03-20 11:41 来自于
群内解答
1609
5
使用catalog过程中要通过enable hint来动态添加table options吗?
如何管理catalog?对应到库表列权限等
5条回答
-
回复于 2023-03-20 11:41
-
回复:
1. 实现 kafka 元数据持久化可以用两种方法,一种直连 kafka,把 kafka 元数据 映射到 Flink 的 catalog, 另一种是通过自定义 Catalog 存储 kafka 的元数据。
2. 如果针对不同任务,可以用 hint 去添加不同的选项。
3. 权限问题,可以在平台层面做管控。把每个 catalog 的可见性根据租户隔离开。 create catalog ... 这种语句是存在平台业务数据库的。
0
0
-
回复于 2023-03-20 11:41
-
在平台上使用catalog是需要考虑这个问题的,项目之间哪些catalog是可以共享的(跨项目协同,一个写,另一个读),哪些catalog是私有的。作业提交的时候要注册哪些catalog(还是说先扫描作业获取到catalog名称精准加载注册catalog?),还得确保catalog不重名不会覆盖,当然你可以说通过帐号来管理,对于一些成熟的数据库系统是可以这样,但像kafka这种通过帐号管理权限就比较困难
0
0
-
回复于 2023-03-20 11:41
-
我问这个问题的意思是,同一个catalog同一个db的同一张table在不同作业中充当的角色是不同的,在某个作业中是充当sink表,在另一个作业中是充当维表甚至是源表。不同角色的表对于table options参数要求是不同的。而你在XXXCatalog类中定义的getTable方法只能返回公共table options,像比如url,username,password这些,真正应用到作业中的table options需要通过table hints的方式在作业上下文中注入进来
0
0