2024年6月7日发(作者:)
ODS原则规范
ODS目标 ............................................................................................................................... 2
ODS建设原则 ....................................................................................................................... 2
数据库规则........................................................................................................................... 3
3.1. ODS数据库用户 ........................................................................................................ 3
3.2. 数据访问规则 ........................................................................................................... 4
3.3. ODS表规则 ................................................................................................................ 4
3.4. 数据管理规范 ........................................................................................................... 6
源系统规则........................................................................................................................... 6
测试规则............................................................................................................................... 6
1.
2.
3.
4.
5.
1. ODS目标
成为平安证券的数据中心,集中包括经纪、资管、固收、客户管理,以至将来新增业务
等各业务条线的数据;
具备能力为各业务系统和报表工具提供证券公司所有业务当前(除当天实时数据外)的
全量数据、一年之内指定日期的全量数据、和一年之内发生的业务数据。
2. ODS建设原则
1) 所有跨系统的非实时数据交换必需通过ODS,其中包含同一个系统供应商的两个采用独
立数据库的系统;
2) 保存当前的全量业务数据和最近一年发生的业务变动数据,变动数据包含每天发生的交
易性数据和主表/参数表的维护数据;
3) 对于主表(包含持仓表)和参数表等类型数据表,在尽可能的情况下,采用由数据提供
者提供每天增量数据,在ODS组成全量数据,而避免每天传入全量数据,以大量减低
ODS储存数据量;
4) 一年之前的业务变动数据定时迁移到历史数据库,历史数据库可以考虑采用与ODS相
同的数据模型,以至提供相似的数据应用工具,只是硬件的处理能力比较低,需要处理
的时间比较长;
5) ODS数据储存分为主数据库和Staging两部分。主数据库使用Oracle按数据模型储存一
年内已经通过检查和清理的数据;
6) Staging是数据提供者/数据使用者和ODS主数据库之间的中转部分,按情况使用Oracle
或文本储存每天的源数据,数据格式与源系统提供的格式完全相同;
7) Staging也保留一段时间的历史数据,例如1到2个月数据,历史数据有两个用途:a、
主数据库的备份,在主数据库出现问题时可以使用Staging的数据重整主数据库;b、为
数据使用者提供近期的历史数据;
8) 在ODS主数据库和Staging,数据使用者只有阅读的权限。在Staging,数据提供者除拥
有阅读的权限外,也拥有对由它负责的数据表的更新权限,而数据提供者只拥有主数据
库的阅读权限。对于CIF2需要更新小部分的客户信息,在Staging设置一张新的数据表
储存CIF2,新的数据表只有CIF2拥有更新权限,由CIF2推送数据到ODS后,后再由
ODS更新主数据库的客户主表;
9) ODS按数据模型接收和储存业务系统已经完成处理的数据,ODS在储存和抽取数据时只
考虑数据逻辑而不考虑业务逻辑,不会根据业务逻辑产生新数据;
10) 数据提供者需要提供全量数据一致性检查方法,以保证ODS储存数据的一致性;
11) 数据提供者需要进行提供数据的质量检查,例如主键属性非空、日期的合法性检查等;
12) 数据提供者发出的新增数据必需符合无重复的原则,即针对数据模型定义的主键没有重
复的记录,否则新增的记录将视为替换已经存在的记录;
13) 极度敏感性数据,例如密码,除已取得特殊批准外,不应该保存在ODS。如果需要在
ODS保存,也需要加密/变形处理;
14) 尽管ODS可以支持使用ETL工具和直接使用SQL插入和抽取数据,但除特殊原因外,
必需使用ETL工具,原因包括:1、加强运行管理,避免太多任务同时并发,特别是多
发布评论