-
销售额为什么下降? -
哪些区域毛利异常? -
哪些客户正在流失?
-
ODS 尽量保存接近源系统的数据; -
DWD 按业务过程沉淀标准明细; -
DWS 对高频分析主题进行汇总; -
ADS 再服务具体报表、看板和分析应用。
-
比如订单金额,到底按下单还是付款统计? -
客户数量按账号、手机号还是企业主体去重? -
收入是否含税? -
退款发生以后历史销售额是否回冲?
-
服务器会产生日志; -
APP 会产生埋点; -
设备会持续上传传感器数据; -
业务部门还会产生 JSON、图片、视频、文档等大量数据。
-
几年以后你会发现: -
文件名没人看得懂; -
同一份数据保存了五个版本; -
字段没有说明; -
责任人找不到; -
更新频率不知道; -
有没有下游使用也没人清楚。
-
业务库里一份; -
数据湖里一份; -
数仓里一份; -
专题库里又一份。
-
存储重复; -
任务重复; -
口径重复; -
权限重复; -
质量规则重复。
第一种:以数据仓库为核心
第二种:数据湖 + 数据仓库
第三种:湖仓一体
第一,你的数据到底是什么类型?
第二,你的数据主要被谁使用?
第三,一份数据被复制了多少次?
第四,团队有没有能力驾驭复杂度?
-
哪些数据进入仓; -
哪些原始数据长期留在湖; -
哪些场景值得进一步统一到湖仓底座。
-
数据仓库解决的是:怎样把数据整理成稳定、可信、可重复使用的分析资产。 -
数据湖解决的是:怎样先承接大量、多类型、暂时还不知道怎么建模的数据。 -
湖仓一体解决的是:怎样减少湖和仓之间重复存储、重复加工、重复治理的问题。
-
数据能不能稳定进入平台? -
关键口径是否一致? -
一份数据有没有被无意义地复制很多遍? -
上下游关系能不能追踪? -
异常能不能快速定位? -
新的业务需求来了,已有数据能不能直接复用?

