-
ERP里的订单、采购和财务数据; -
CRM里的客户和销售机会; -
MES里的生产过程数据; -
WMS里的库存数据; -
OA里的人员和组织数据; -
设备平台里的实时运行数据。
-
有的数据每天凌晨更新一次; -
有的数据每分钟变化; -
有的数据来自数据库; -
有的数据来自API、Excel、日志或者消息队列。
-
从哪里取? -
取哪些? -
多久取一次? -
取到哪里?
-
销售部门可能按照订单创建时间统计; -
运营按照付款时间统计; -
财务按照收入确认时间统计。
-
数据集成解决“数据怎么流”。
-
数据治理解决“流动的数据按照什么规则使用”。
-
数据进入平台时谁检查? -
发现空值以后任务继续还是停止? -
错误数据放在哪里? -
谁负责修复? -
修复以后是否重新同步? -
已经进入下游的数据需不需要重算?
-
业务系统来了一个就接一个; -
业务部门要一张表就同步一张; -
要实时数据,再加一条CDC链路。
-
同一张客户表,被不同项目重复同步了五遍; -
同一个销售指标,在不同团队手里存在七套逻辑; -
某个源系统已经下线,对应同步任务却还每天运行; -
有些任务失败三个月都没人发现,因为下游早就没人使用; -
一张核心表增加字段以后,下游几十条任务陆续报错。
数据接入之前
数据同步过程中
数据加工过程中
数据提供出去以后
第一步,先选核心业务对象。
第二步,把核心数据链路接起来。
第三步,治理规则同步进入。
第四步,把问题重新反馈给集成链路。
-
发现源系统编码混乱,就增加转换规则; -
发现任务重复,就合并链路; -
发现更新不及时,就调整同步策略; -
发现敏感字段使用范围过大,就修改权限。
-
数据从哪里来? -
为什么要同步? -
按照什么规则处理? -
经过哪些任务? -
出了问题谁负责? -
哪些下游会受到影响? -
最终谁可以使用?

