集團(tuán)主大數(shù)據(jù)管理系統(tǒng)平臺(tái)解決方案設(shè)計(jì)

1、標(biāo)準(zhǔn)文檔集團(tuán)主數(shù)據(jù)管理解決方案1. 基本概念主數(shù)據(jù)：是用來描述企業(yè)核心業(yè)務(wù)實(shí)體的數(shù)據(jù)，例如客戶、供應(yīng)商、物 料、產(chǎn)品、員工、組織等。主數(shù)據(jù)是具有高業(yè)務(wù)價(jià)值的，應(yīng)在企業(yè)內(nèi)跨 越各個(gè)業(yè)務(wù)部門被重復(fù)使用的數(shù)據(jù)， 并且存在于多個(gè)異構(gòu)的應(yīng)用系統(tǒng)中。 主數(shù)據(jù)管理：包含一整套用于生成和維護(hù)主數(shù)據(jù)的規(guī)范、技術(shù)，完整的 平臺(tái)包括元數(shù)據(jù)管理，信息系統(tǒng)集成、ETL技術(shù)、數(shù)據(jù)倉(cāng)庫(kù)/分析、ESB等組件和技術(shù)。ESB（企業(yè)服務(wù)總線）：將不同系統(tǒng)的業(yè)務(wù)抽象成事件或服務(wù)，以基 于消息內(nèi)容的形式，通過協(xié)議轉(zhuǎn)換、消息過濾、事件路由，對(duì)多個(gè) 系統(tǒng)不同的事件進(jìn)行整合。2. 需求概述為滿足集團(tuán)業(yè)務(wù)發(fā)展，提高集團(tuán)信息化管理水平，為核心業(yè)

2、務(wù)系統(tǒng)搭建基礎(chǔ) 的主數(shù)據(jù)管理平臺(tái)，有效解決異構(gòu)系統(tǒng)間的主數(shù)據(jù)唯一性、一致性和共享性 問題。3. 現(xiàn)狀描述現(xiàn)目前公司的核心業(yè)務(wù)主數(shù)據(jù)存儲(chǔ)于多套不同的業(yè)務(wù)系統(tǒng)中，包括 AJX、HR、金蝶財(cái)務(wù)等等，導(dǎo)致的問題主要有以下幾個(gè)方面：1）沒有規(guī)范的管理要求：導(dǎo)致不同系統(tǒng)使用時(shí)達(dá)不到管理要求，甚至重復(fù) 管理同一數(shù)據(jù)（組織，客戶、人員等） ；2）沒有標(biāo)準(zhǔn)的規(guī)則定義：主數(shù)據(jù)到了不同的系統(tǒng)可能就變了名字或編碼， 直接導(dǎo)致不同業(yè)務(wù)系統(tǒng)的數(shù)據(jù)無(wú)法共享；3）沒有統(tǒng)一的共享平臺(tái)：系統(tǒng)與系統(tǒng)間建立點(diǎn)對(duì)點(diǎn)的連接，當(dāng)系統(tǒng)增多的 時(shí)候，這樣的關(guān)系結(jié)構(gòu)會(huì)更加混亂，如下圖：*實(shí)線表示已實(shí)現(xiàn)自動(dòng)同步，虛線表示人工添加、導(dǎo)入。以上3點(diǎn)，

3、直接影響新建信息系統(tǒng)時(shí)，沒有統(tǒng)一的接口標(biāo)準(zhǔn)可以調(diào)用主數(shù)據(jù)， 而新系統(tǒng)要么手工維護(hù)多個(gè)系統(tǒng)相同的數(shù)據(jù)， 要么單獨(dú)為每套系統(tǒng)開發(fā)接口 去適配。4. 解決方案4.1. 實(shí)現(xiàn)思路基于現(xiàn)狀分析，可通過搭建主數(shù)據(jù)倉(cāng)庫(kù)，利用ESB平臺(tái)建立各業(yè)務(wù)系統(tǒng)間的連接，實(shí)現(xiàn)主數(shù)據(jù)的CRU管理。主數(shù)據(jù)倉(cāng)庫(kù)報(bào)表服 務(wù)器H R分公司AJXAJXCTTZ 分公司AJXESB（協(xié)議轉(zhuǎn)換、消息處理、服務(wù)注冊(cè)）分公司AJX實(shí)用文案主數(shù)據(jù)倉(cāng)庫(kù)：主要涉及以下幾方面作用1）匯總、存儲(chǔ)分公司AJX主數(shù)據(jù)；2）建立分公司AJX主數(shù)據(jù)的對(duì)應(yīng)關(guān)系；3）建立系統(tǒng)間主數(shù)據(jù)的對(duì)應(yīng)關(guān)系；倉(cāng)庫(kù)中存儲(chǔ)的主數(shù)據(jù)并不涉及其它業(yè)務(wù)系統(tǒng)的主數(shù)據(jù)，此處僅匯總分公司 A

4、JX系統(tǒng)的主數(shù)據(jù)，并建立與其它業(yè)務(wù)系統(tǒng)的主數(shù)據(jù)對(duì)應(yīng)關(guān)系。ESB平臺(tái)：負(fù)責(zé)主數(shù)據(jù)倉(cāng)庫(kù)的 CRUD隹護(hù)；創(chuàng)建接入系統(tǒng)的資源公共接口 （WebService、REST數(shù)據(jù)庫(kù)等），供系統(tǒng)之間的資源調(diào)用；確保主數(shù)據(jù)在各系 統(tǒng)間的唯一性。4.1.1. 主數(shù)據(jù)評(píng)估從數(shù)據(jù)的關(guān)鍵性、共享程度、應(yīng)用范圍等方面，建立主數(shù)據(jù)的特性評(píng)估流 程。凡符合主數(shù)據(jù)特性的業(yè)務(wù)對(duì)象，均納入主數(shù)據(jù)倉(cāng)庫(kù)管理。4.1.2. 初始數(shù)據(jù)導(dǎo)入根據(jù)定義好的主數(shù)據(jù)對(duì)象和特征字段（可識(shí)別的關(guān)鍵字段，其中來源公司、 來源系統(tǒng)為必須字段），使用ETL從各分公司AJX業(yè)務(wù)系統(tǒng)中抽取，并以 不同的業(yè)務(wù)對(duì)象分類存儲(chǔ)。由于以往各分公司的主數(shù)據(jù)獨(dú)立，在此過程中還

5、需要處理以下問題：a）在倉(cāng)庫(kù)中新增不同對(duì)象的編碼規(guī)則，并與該對(duì)象所在公司、原有編碼 做對(duì)應(yīng)；b）根據(jù)主數(shù)據(jù)的字段結(jié)構(gòu)，合并不同公司的相同數(shù)據(jù)記錄，將相同數(shù)據(jù) 的原有編碼與新的編碼做多對(duì)一關(guān)聯(lián)；其它系統(tǒng)的數(shù)據(jù)可根據(jù)前面定義的主數(shù)據(jù)特性評(píng)估，以決定是否需要納入 主數(shù)據(jù)倉(cāng)庫(kù)管理，例如HR系統(tǒng)的人員信息。4.1.3. 共享平臺(tái)搭建主要工作在ESB與各系統(tǒng)的接口處理，可分為兩個(gè)階段的工作內(nèi)容： 階段一連接應(yīng)用系統(tǒng)創(chuàng)建資源訪問接口對(duì)外發(fā)布接口階段一：建立與各應(yīng)用系統(tǒng)的連接，梳理業(yè)務(wù)涉及的數(shù)據(jù)庫(kù)邏輯，并根據(jù) 系統(tǒng)自身提供的接口（或直連數(shù)據(jù)庫(kù)），將系統(tǒng)的資源或業(yè)務(wù)抽象成可供 外部調(diào)用的API。協(xié)議轉(zhuǎn)換/消息處

6、理階段二建立事件路由階段二：以基于業(yè)務(wù)的形式創(chuàng)建事件流程，包括流程各節(jié)點(diǎn)與不同業(yè)務(wù)系 統(tǒng)的接口連接，涉及的協(xié)議轉(zhuǎn)換和消息內(nèi)容處理。4.1.4.維護(hù)更新平臺(tái)建立之后，后續(xù)主要工作集中在：1）對(duì)新增主數(shù)據(jù)的編碼規(guī)則、字段建立，映射關(guān)系導(dǎo)入；2）業(yè)務(wù)調(diào)整后，業(yè)務(wù)系統(tǒng)邏輯梳理及 ESB平臺(tái)接口、流程修改;3）新增業(yè)務(wù)系統(tǒng)，ESB平臺(tái)的接口實(shí)現(xiàn)；4.2. 應(yīng)用場(chǎng)景421.離職員工賬號(hào)以公司0A系統(tǒng)流程為例，當(dāng)有員工離職的流程審批通過后，ESB平臺(tái)接收到該離職員工的特征信息消息，根據(jù)預(yù)先定義的事件流程，訪問接入的 AJX金蝶、報(bào)表服務(wù)器等系統(tǒng) API，停用離職員工在該系統(tǒng)的賬號(hào)（需 先建立該員工主數(shù)據(jù)庫(kù)記

7、錄與各系統(tǒng)的記錄對(duì)應(yīng)關(guān)系）。無(wú)法接入的系統(tǒng)（VPN賬號(hào)，0A流程申請(qǐng)關(guān)聯(lián)員工是否有賬號(hào)），可通過 ESB平臺(tái)調(diào)用消息接口（短信、微信等）或觸發(fā) 0A流程，通知相關(guān)人員 處理。4.2.2.客戶資料管理a）歷史客戶導(dǎo)入使用ETL從AJX系統(tǒng)導(dǎo)入客戶特征信息到主數(shù)據(jù)倉(cāng)庫(kù)，并新增唯一的 主數(shù)據(jù)編碼與原編號(hào)做對(duì)應(yīng)關(guān)系，不同公司相同客戶建多對(duì)一關(guān)系， 但只在客戶庫(kù)中存儲(chǔ)一條記錄。如其它系統(tǒng)也收集客戶資料，同樣使用ETL導(dǎo)入主數(shù)據(jù)倉(cāng)庫(kù)，已存在 的客戶僅增加對(duì)應(yīng)關(guān)系；不存在的則增加主數(shù)據(jù)編碼及對(duì)應(yīng)關(guān)系。b）客戶新增無(wú)論從哪套系統(tǒng)增加客戶（能統(tǒng)一入口最好），都可以使用ESB平臺(tái) 獲取該系統(tǒng)增加的客戶資料（如無(wú)接

8、口推送消息，則只能使用ESB定 期拉?。c主數(shù)據(jù)庫(kù)匹配：已存在：增加對(duì)應(yīng)關(guān)系，（有需要）可通過ESB平臺(tái)主動(dòng)獲取相 關(guān)系統(tǒng)的該客戶信息（銷量等更多信息），刷新本系統(tǒng)，不用再 去重復(fù)收集；不存在：增加主數(shù)據(jù)編碼和對(duì)應(yīng)關(guān)系，同時(shí)通過ESB平臺(tái)推送該 客戶資料到其它系統(tǒng)中（如需要）。客戶、員工（員工賬號(hào)）、產(chǎn)品管理的架構(gòu)基本一致（見下表）：多套系統(tǒng) 可同時(shí)維護(hù)同一主數(shù)據(jù)對(duì)象，但相同對(duì)象只在主數(shù)據(jù)倉(cāng)庫(kù)中存有一條記錄， 該記錄與多個(gè)系統(tǒng)建立有對(duì)應(yīng)關(guān)系，從而 ESB平臺(tái)才可根據(jù)該對(duì)應(yīng)關(guān)系， 按業(yè)務(wù)需求對(duì)相應(yīng)系統(tǒng)的記錄做 CRU管理。主數(shù)據(jù)表：客戶MDh編碼客戶姓名身份證號(hào)碼其它特征字段10000001張

9、三55010011110000002李四221000120客戶對(duì)應(yīng)關(guān)系MDM編碼來源系統(tǒng)來源公司對(duì)應(yīng)特征碼10000001系統(tǒng)編號(hào)1101公司編號(hào)101120110000001系統(tǒng)編號(hào)1109公司編號(hào)101A100910000002系統(tǒng)編號(hào)1101公司編號(hào)1011333310000002系統(tǒng)編號(hào)1107公司編號(hào)10113333如能限制主數(shù)據(jù)對(duì)象的新增入口 （某套系統(tǒng)或統(tǒng)一平臺(tái)），則對(duì)應(yīng)關(guān)系的 維護(hù)要簡(jiǎn)單得多。423.多維度數(shù)據(jù)分析基于ESB平臺(tái)維護(hù)的對(duì)應(yīng)關(guān)系，在 ESB創(chuàng)建根據(jù)MDM ID獲取員工指定 月份、系統(tǒng)的數(shù)據(jù)接口，使用該接口可取出某個(gè)員工在所有業(yè)務(wù)系統(tǒng)的 數(shù)據(jù)，例如對(duì)某個(gè)員工的取數(shù)結(jié)果如下表：某銷售員，某月數(shù)據(jù)統(tǒng)計(jì)MD漏號(hào)姓名職位入職時(shí) 間薪等薪 級(jí)報(bào)銷金額銷量拜訪客戶數(shù)量其中涉及的API接口和系統(tǒng)如下表（參數(shù)均為 MDM API日期）：字段來源系統(tǒng)ESD API （假設(shè)）參數(shù)姓名 職位 入職時(shí)間HR系統(tǒng)獲取員工基本信息接口Mdm api薪等薪級(jí)報(bào)表服務(wù) 器系統(tǒng)獲取銷售員最新薪等薪級(jí) 接口Mdm api報(bào)銷金額0A系統(tǒng)獲取銷售員指定時(shí)間差旅 費(fèi)報(bào)銷金額合計(jì)接口Mdm api、日期銷量AJX系統(tǒng)獲取銷售員指定時(shí)間銷量 接口Mdm api、日期