应用篇:数据治理 - 数据质量YonBIP V3.0 ( (R5_2312 )产品应用培训主讲人:吴佳聪课程分级:Ⅲ 面向对象:实施交付目录总体概述11. 业务痛点; 2. 应用架构; 3. 业务模型; 4. 业务场景; 5. 业务场景; 6. 关键特性1. 初始准备; 2. 场景 / 流程; 标准应用2创新应用31. 智能化 新增特性42023 年全年总体概述PART1. 业务痛点; 2. 应用架构; 3. 业务模型; 4. 业务场景 . 5. 关键特性1. 业务痛点数据内容不完整,内容有缺失数据不完整数据缺失,导致资产不可用数据值定义混乱数据不准确,与事实不符资产加工成本高格式混乱超值域异常值数据质量低2. 应用架构 数据中台公共数据源业务系统 领域数据智能应用资金分析盈利分析消费者行为分析供应商评价智能库存销量预测… …智能分析[ 选择表 ][ 设置连接 ][ 字段设置 ][ 选项设置 ]语义模型[ 表样管理 ][ 条件格式 ][ 扩展区域 ][link 报表 ]自由报表[ 设计器 ][ 筛选设置 ][ 交互设置 ][ 多端分析 ]移动设计[ 图表组件 ][ 样式设置 ][ 交互设置 ][ 模型设置 ]仪表板[ 预警任务 ][ 插件扩展 ][ 对象管理 ][ 模板管理 ]分析配置[ 权限管理 ][ 参数管理 ][ 函数管理 ][ 发布管理 ]系统管理[ 大屏模板 ][ 炫酷组件 ][3D 地图 ][ 多维图层 ]数字大屏[ 报告模板 ][ 报告设计 ][ 报告生成 ][ 报告操作 ]智能报告[SQL 模型 ][ 视图模型 ][ 存储过程 ][ 编程扩展 ]数据模型[ 流式同步 ][ 批量同步 ][ 数据对比 ][ 业务对象同步 ][ 时间限定 ][ 维度建模 ][ 关系建模 ][ 业务过程 ][ 离线开发 ][ 实时开发 ][ 交互式开发 ][ 自助 ETL][ 原子指标 ][ 业务限定 ][ 复合指标 ][ 汇总表管理 ][ 数据实体 ][ 标签体系 ][ 数据萃取 ][ 标签应用 ][ 元数据采集 ][ 元数据血缘 ][ 元数据检索 ][ 最新标准 ][ 定版标准 ][ 落地评估 ] [ 质检函数 ][ 质检规则 ][ 质检模型 ][ 质量报告 ][ 质量工单 ][ 资产目录 ][ 资产服务 ][ 资产地图 ][ 资产权限 ][ 分级分类 ][ 数据脱敏 ][ 数据权限 ]数据工场数据治理数据移动数据建模数据开发标签管理指标管理元数据管理数据标准数据质量数据资产数据安全<>数据移动引擎<>多维引擎<>结构化存储引擎<>非结构化存储引擎<>调度引擎<>批计算引擎<>流计算引擎RDBMSNoSQLHDFSMPPAPIMaxComputeMRSGS 6.0/7.0NCC/NC/u8c/BIPSAP ECC/R3/S43. 业务模型数据质量管理流程数据质量库2. 配置质量检查规则3. 部署检查任务4. 数据质量报告1. 收集数据质量管理需求基于元数据配置数据质量规则抽取数据源数据源基础区主题区传输汇聚区加载汇总抽取转换数据质量检查数据集市分析区数据质量整改7. 质量考核评价6. 处理结果查询增加数据质量规则集元数据库5. 质量问题工单跟踪处理ETL 处理流程4. 业务流程梳理质检函数• 确认质检目标和要求• 梳理函数具体语句及内容梳理质检规则• 建立函数与具体对象的映射关系• 确认质检合格的标准组织质检模型• 构建质量分析维度• 关联质检规则• 分配维度和规则权重• 定期调度• 持久化数据查看质量报告• 配置自定义规则函数• 配置检核任务• 组装质检模型• 查看质量报告派发质量工单• 派发质量整改工单• 追踪整改进度• 复核整改结果• 对接审批HOW :如何质检?WHAT :质检什么?WHEN :什么时候质检?查看质检结果异常数据整改管理质检函数质检规则质检模型质量报告质量工单5. 业务场景领域云产品服务业务场景分类业务场景业务描述(明细场景)云平台数据治理质量检查数据格式检查数据的格式与要求不符,例:身份证号格式要求是 18 位字符组成,第1~17 为数字,第 18 位为数字或字母 X 。数据值域检查数据的值域与要求不符,例:性别的值域要求是男 . 女 . 未知。数据数值检查数据的最大值超出实际可发生的数值,例:一家超市最贵物品为 100 元,订单流水里单价最高为 10...