Compaction机制
Spark小文件合并优化参数配置方案
知识百科 • 数栈君 发表了文章 • 0 个评论 • 64 次浏览 • 2026-03-28 12:57
在大数据处理与实时分析场景中，Spark 作为主流的分布式计算引擎，广泛应用于数据中台、数字孪生和数字可视化系统的底层数据处理层。然而，随着任务频繁调度、分区过多或写入策略不当，Spark 作业常产生大量小文件（通常指小于 HDFS 块大小 128MB 或 2... ...查看全部
Hive SQL小文件高效处理技术及性能优化方案
知识百科 • 数栈君 发表了文章 • 0 个评论 • 121 次浏览 • 2025-10-14 09:39
在大数据处理领域，Hive 作为 Apache Hadoop 生态系统中的重要组件，广泛应用于数据仓库和数据分析场景。然而，在实际应用中，Hive 面临的一个常见问题是“小文件”（Small Files）问题。小文件不仅会导致存储资源的浪费，还会影响查询性能，... ...查看全部
Spark小文件合并优化参数配置方案
知识百科 • 数栈君 发表了文章 • 0 个评论 • 64 次浏览 • 2026-03-28 12:57
在大数据处理与实时分析场景中，Spark 作为主流的分布式计算引擎，广泛应用于数据中台、数字孪生和数字可视化系统的底层数据处理层。然而，随着任务频繁调度、分区过多或写入策略不当，Spark 作业常产生大量小文件（通常指小于 HDFS 块大小 128MB 或 2... ...查看全部
Hive SQL小文件高效处理技术及性能优化方案
知识百科 • 数栈君 发表了文章 • 0 个评论 • 121 次浏览 • 2025-10-14 09:39
在大数据处理领域，Hive 作为 Apache Hadoop 生态系统中的重要组件，广泛应用于数据仓库和数据分析场景。然而，在实际应用中，Hive 面临的一个常见问题是“小文件”（Small Files）问题。小文件不仅会导致存储资源的浪费，还会影响查询性能，... ...查看全部
