大模型应用落地，Data+AI生产力一触即发丨2025袋鼠云春季发布会回顾
数栈君
发表于 2025-07-01 14:38
161
0
4月16日，袋鼠云成功举办了以“做 Data+AI 的长期主义者”为主题的2025年春季发布会。大会深度探讨了如何凭借 AI 实现新的飞跃，重塑企业的经营管理方式，加速数智化进程。
当下，大模型已然成为推动科技变革的核心力量。作为大会的重要环节之一，袋鼠云AI产品专家林树，为大家带来主题为《大模型应用落地，Data+AI生产力一触即发》的精彩内容，详细介绍了袋鼠云在大模型应用方面的强大能力及相关应用场景，向我们展示如何通过Data+AI 的深度融合释放出强大的生产力。
以下为大会视频回放以及演讲实录：
➡️下载演讲资料：
制造业：AI客服项目
痛点与建设目标
以制造业AI客服项目为例，制造行业售前咨询存在以下痛点：
高频问题人力依赖：高达70%的咨询集中在规格、型号、价格等标准化问题上，但仍需人工逐条回复，效率极低。
知识传递断层：客服人员熟悉产品需要大量时间，还依赖工程师支持，导致响应速度慢，服务标准不统一。
售后流程低效：手动填写工单耗时费力且错误率高，工单不规范引发反复沟通，影响客户体验。
AI应用案例与RAG技术
为了使大模型的回答更加精准，RAG技术与大模型能力的结合至关重要。RAG可以分为两个阶段，数据准备阶段和问题回答阶段。简单来说，RAG就是带着资料回答问题，能够有效提升大模型回答的准确性。
项目挑战与应对
从对AI应用案例及RAG技术的分析中，可以看出数据质量是AI客服项目面临的最大挑战。制造业文档通常十分复杂，主要存在以下四类问题：
PDF文档的复杂性：制造业的PDF文档往往包含文字、图片和表格。这些内容形式多样，提取起来并不容易。
表格处理的难点：表格本身就很复杂，比如合并单元格、跨页表格，甚至表格中嵌套图片。这些问题会导致数据提取不完整或结构混乱，直接影响后续的使用。
文档切片与信息丢失：在将文档切片时，表头信息很容易丢失。比如一份长表格被切分成多个片段后，后续片段可能没有表头。
召回准确度：最后是召回准确度的问题。即使数据提取出来了，很可能检索时也无法准确匹配用户问题。
针对这些问题，袋鼠云采取了一系列应对措施。
文档解析方面：使用PDF版面OCR识别和表格识别技术，优化了Docling模型，确保复杂文档中的文字和表格能够被准确提取。
对于文档切片：采用父子分片策略（将长文档按层级切分），将长文档切分成小片段，同时保留表头信息，确保数据完整性和可读性。
在召回精准度上：引入结果重排序（Rerank），【topk8，top0.3，温度0.1 千问-Qwen32b】和召回重写机制，提升检索的准确性。
在Prompt提示词工程方面：开发了内部版本对比Prompt工具，对FAQ、引导语和聊天记录进行向量化处理，优化Prompt设计。
图书馆：AI知识库项目
痛点与建设目标
AI图书馆也非常火热，图书馆天然有丰富的数据资源，同时图书馆业务也不简单，背后业务系统一看有二十多套。
通常图书馆中会存在以下痛点：
项目解决方案
聚焦关键场景方面，袋鼠云与图书馆客户进行了反复沟通，明确了关键场景和1.0里程碑。我们重点关注以下几个方面：
面向师生的AI馆员：提供智能咨询服务，帮助师生快速找到所需信息。
图书馆FAQ：搭建常见问题解答系统，减少人工咨询量。
空间预定和图书借阅：优化核心业务流程，通过直接对话框完成预定和借阅操作。
图书馆知识库建设上，在知识库建设方面，袋鼠云采取了以下措施：
图书检索：通过AI技术将文本描述转化为正则表达式，实现精准检索。
全量图书向量化：提取元信息，构建知识图谱，确保数据的结构化和语义化。
增量图书自动化：通过轮询API接口和CDC技术监控变更日志，实现数据的自动更新。
AI应用开发平台发布
介绍完2个AI应用项目的经验后，林树带来了经过过去1年的实践和经验积攒，袋鼠云内部孵化了一款AI应用开发平台。
产品架构
AIWorks是一款企业级AI应用开发平台，专注于为企业提供安全可控、灵活扩展的A1应用开发能力。平台以私有化部署为核心，企业可基于平台可视化开发、多模型支持及工作流编排等能力，助力企业快速构建AI智能应用，实现AI能力与业务场景的高效融合。
关键页面
对话页面
在对话页面，支持将开发好的机器人进行聊天测试，并发布成到钉钉/微信/飞书工作台用户也可以随时切换底层模型。
智能开发模块页面
支持智能体流程节点编排与调试，提供API调用与Iframe嵌入方式与第三方系统集成。
知识库管理页面
在知识库管理中，支持可视化文档处理和召回命中测试，支持多种开源嵌入模型和重排模型等。
AI硬件产品与服务系列
同时，袋鼠云也提供硬件产品和相关服务。帮助用户快速搭建部署AI大模型，赋能企业业务。
DeepSeek一体机
袋鼠云主要提供两套方案：DeepSeek通用一体机、DeepSeek智能应用一体机。
模型微调服务
同时我们也提供协助或替代客户完成模型微调、模型训练服务。
欢迎带着您的业务场景和目标，我们一起来交流探讨。如果你对我们的产品感兴趣，欢迎点击“阅读原文”申请产品试用。
大模型应用落地，Data+AI生产力一触即发丨2025袋鼠云春季发布会回顾 
