全黄网站I国产精品99蜜臀久久不卡二区I韩国一区二区在线观看I激情婷婷avI国产精品久久久久久久久久尿I亚洲综合在线播放I黄色毛片电影I久久久久电影

數據模型與數據治理(二)|在企業級數據建模中治理數據
長亮動態
2024.03.18

導語:


隨著越來越多的企業認識到數據作為生產要素的價值,加快了企業數字化轉型,把完善企業級的數據治理體系作為企業數字化轉型的一個目標。長亮科技在大數據領域始終保持足夠的技術敏銳度,并積累了豐富的經驗與資產。為此,我們組織了一個系列專文,分期發表,與您一起探索更適合當下行業發展的數據觀,歡迎大家持續關注。




作者|長亮科技大數據研究院

內容|本篇共4010字,預計閱讀時間15分鐘



創建企業數據模型的過程與最終結果同樣重要。正是因為數據建模的缺失,更迫切需要治理數據。即使一個小的業務處理系統的關系數據建模,也可以避免或減少數據質量問題的產生,有效降低未來數據管理和運營的成本和風險。一些企業的數據治理僅僅是為了滿足監管要求而進行的被動行為,在IT建設過程中,沒有通過企業級數據建模進行頂層設計和統籌規劃,隨著監管科技的發展,監管日益精細化,處罰力度不斷加強,僅僅完成“規定動作”而沒有通過體系化設計、未能得到根本解決的各類數據問題逐漸暴露出來并帶來了越來越多的負面影響。反之,借助數字化轉型,在內部推動企業級數據模型規劃和落地,并通過數據治理有效清理積弊,提升數據資產質量的企業,則在數據資產化、要素化的浪潮中獲得了領先的競爭優勢。




01




關系數據建模方法

仍是企業級數據建模的唯一選擇


DAMA-DMBOK2總結了用于表示數據的六個最常見的模式是:關系、維度、面向對象、基于事實、基于時間和NoSQL,其中最常用的是關系、維度、面向對象的UML,每種建模模式都使用特定的表示法-圖表符號進行表達,良好的設計模式提供豐富的可擴展建模語言,便于提煉專家知識的原型,降低建模難度。


關系數據庫管理系統的強大能力與Peter Chen的原始ER實體關系模型的概念密不可分,即邏輯數據模型。將數據與流程(與業務流程和系統流程)分開的核心思想,打破了面向流程的系統開發模式,同時實現更新(操作運營)和訪問(決策支持)的目的,邏輯數據模型從業務角度實現了這種分離,而物理數據模型從數據庫角度實現了這種分離。關系數據模型的實體完整性、參照完整性、用戶定義的完整性約束為高質量數據的實現提供了保障,四十多年來,關系數據建模一直是理解復雜業務與數據,設計和部署具有高質量數據的關系數據庫與支持應用開發的敏捷的、正確的、可靠的最佳方法。銀行業務交易系統數據仍以關系數據為主,并適度降范,可以與企業關系數據模型便捷映射。


對象建模與面向對象的程序設計方法配合主要用于交易系統數據模型設計,對象中可以包含對象,冗余設計不可避免地造成數據的不一致,很難提供一個準確的定義來說明目標建設的數據,數據可移植性差,維護困難。維度建模是應用需求驅動的設計,即使設計企業一致的維度(也必須經歷范式與抽象的思維邏輯過程),也存在數據冗余。對象建模與維度建模這兩種方法的初衷都不是為了用一種穩定而客觀的方式描述事實,以提供高質量數據并保證數據的連續性,因而這兩種方式的建模過程不但無助于發現數據問題,反而可能產生更多的問題,不適合用于企業級的數據建模。


數據質量的度量管理與評價體系核心仍是基于關系數據模型建立的。DAMA-DMBOK2歸納了8個具有普遍一致性的數據質量維度:準確性、完備性、一致性、參考完整性、合理性、及時性、唯一性、有效性。ISO/IEC 25012數據質量模型把數據質量特性分為不排它的固有的數據質量與依賴系統的數據質量,排除依賴系統的數據質量特性后,固有的數據質量特性都可以用關系數據庫管理系統來管理。


一表通監管數據采集接口標準把明細類數據劃分為機構、客戶、關系、財務、產品、協議、交易、狀態、資源、參數等10個主題,把關系、狀態單列主題,分別管理關系與歷史變化,關系模型設計模式的監管要求比過去更加模型化,可以更加完整、體系化評價數據,對數據質量的要求越來越高。一表通接口標準存在一定的冗余,需要在支撐一表通的底層實現上提供一致的數據。







02


企業級數據建模

如何有效幫助治理數據?


數據是業務與信息的最后載體,企業級數據建模應自上而下參考企業業務架構與應用架構,自下而上結合數據需求和數據現狀。從數據現狀出發,整體上可以劃分為信息探索、模型設計兩個大的階段。



1.信息探索階段


了解企業數據現狀及其元數據是企業級數據建模實質行為必不可少的一步。信息探索是對企業現有數據與文檔進行調研分析,識別其數據結構、業務含義、數據關系、數據流, 從源數據中探索出信息的過程。可以說信息探索的每一步,都可能發現需要治理的問題,數據模型師作為數據考古學家必須耗費大量時間深入穿透紛亂復雜的數據表象,反復提出假設,驗證或推翻。


剖析、分析數據,理解現狀數據結構,探索、揭露不同數據元素的含義及其之間的聯系。數據生產者很少能提供文檔來解釋自己設計的數據含義與關系,缺少業務元數據,需要數據治理部門的支持并借助領域專家的經驗。對每張表深度分析,可能發現大量主鍵、外鍵、值域等數據完整性問題,以及違背業務規則的數據。


可視化業務源數據模型。由于業務系統很少提供源模型,反向工程還原源數據模型是企業數據建模人員應該嘗試完成的一項工作,通過與數據生產者以及業務人員的交互,更好地理解與驗證數據,確認業務規則,更容易發現與確認數據質量問題。源數據建模還有助于將數據與真實業務世界本體進行比較,發現差異。


探索跨業務系統的數據關系與數據流。理想情況下,企業應具備應用架構、數據架構來說明不同業務源系統之間的數據交互關系,業務系統應提供詳細的設計說明。把數據集中到一起進行跨系統深入探索驗證,還可以進一步發現不同系統之間的業務不一致、賬務不一致以及業務與賬務不一致問題,使各種問題充分暴露。


形成企業數據CRUD分布圖,識別出有用的關鍵數據,進一步確定黃金數據源。發現與確定什么是以及為什么是關鍵數據,數據治理的主要目的之一是保護、管理與共享重用這些關鍵數據。如果不知道要管理的數據是什么、數據的含義以及為什么對組織重要,就不可能很好地保護和管理數據。識別出冗余數據,區別垃圾數據,確定企業數據分布與集成的問題。許多數據問題是因為不科學的CRUD造成的,企業建模思維很容易發現應用架構、數據架構在主數據、數據交互與集成等方面存在的問題,如同一主數據多個系統創建與修改。


發起數據資產評估,盤點數據資產現狀是數據治理早期關鍵活動。企業級數據建模過程中的信息探索,從數據到信息,找到有價值數據,發現需要治理的問題,應是數據治理實質工作的重點內容。



2.模型設計階段


數據模型是本體模型,數據建模是一項專業設計任務,在數據建模過程中融入數據管理思維,經過專業負責的深思熟慮與驗證,精準設計與定義模型本體——每個概念業務實體、邏輯數據實體及其固有屬性。模型設計包括主題模型設計、概念數據模型設計與邏輯數據模型設計,企業級數據倉庫模型是企業級的分析數據模型,還包括物理數據模型的設計。在定義數據模型本體過程中,可以發現更多數據問題。


建立數據標準。發起數據標準是數據治理前期高優先級工作之一,數據標準從何而來?除了國家標準、行業標準之外,信息探索階段的產出應該作為定義數據標準的重要輸入參考。如果制定的數據標準脫離本企業實際現狀,落標時將產生大量不必要的改造工作。


對企業關鍵概念業務實體與邏輯數據實體進行定義與分類,建立關系,構建可管理的、穩定的數據架構。設計企業級數據模型,即使有成熟的行業數據模型可以參考,也不應該忽略概念模型的設計,各干系人對企業關鍵概念的理解達成一致共識,是溝通、管理與使用數據的前提。


采用范式與適度抽象設計思想與通用數據模型設計模式,設計穩定的數據模型,使模型收斂而不發散,改善業務一致性。嚴格按照第3范式要求設計邏輯模型,必然會發現源系統很多因冗余設計造成的不一致性問題(雖然業務系統一般采用范式設計模式,但沒有達到第3范式要求),在物理模型設計中考慮適度降范。


數據模型師與業務領域專家、數據管家等一起定義數據模型。捕獲業務如何描述和使用數據,創建和集成統一、共享的業務元數據。在定義過程中及時記錄各種數據問題,加速數據治理工作。


可視化數據模型,為業務與技術提供交互的接口,為數據使用提供元數據,驗證與提升數據模型設計的準確性、一致性與完整性。


部署準確的高質量數據源。根據信息探索的結果,確定準確權威的數據源映射模型,執行完整的數據模型設計任務,確保數據完整性。在集成的數據環境中,基于數據模型進行全維度質量檢查,把問題提交給治理團隊安排治理,推動上游業務系統治理,在源頭產生高質量的數據。


控制整個企業中數據的設計和部署使用,管理數據生命周期。控制并確保權威數據在下游得到全面使用,確保從安全、合規到商務智能應用可回溯到源數據。



03


良好的數據治理,

提升數據建模效率


數據建模和數據治理都是數據全生命周期管理的關鍵職能領域,二者相輔相成,對提升數據的可用性、發揮數據價值具有重要的意義。


數據治理是對數據資產管理行使權威與控制,數據治理組織發起企業數據建模,可以將數據建模視為對數據定義的權威與控制的執行和實施。企業數據建模的原則(在“正確的”時間,由“正確的”人員為組織定義“正確的”數據,確保唯一正確的數據放在唯一正確的地方),必須要有規范或準則來確保數據設計符合需要,這些規范由數據治理委員會委托相關職能團隊設計并批準發布。


數據管理職責描述數據管理崗位管理數據和流程的職責和責任, 確保有效控制和使用數據資產。數據管理專員職責的主要活動包括創建和管理核心元數據、記錄規則和標準、管理數據質量問題、執行數據治理運營活動,需要把這些管理職責與活動嵌入到企業數據建模活動中,在整個數據生態系統中的人員、流程和系統中定義和開發“正確的”數據行為。


企業數據建模各階段必然會遇到許多問題,需要業務職能領域和 IT 組織協同,與數據建模人員一起工作,協助數據建模,需要數據治理組織為數據的集成與整合提供推動與決策支持。在正式的數據治理組織建立之前,企業級數據倉庫的模型建設主要由IT部門發起,業務僅是作為數據應用的需求方參與,項目中發現的數據問題沒有相應的“司法”解決途徑。


END


僅治理數據而不建模數據,治理成果得不到鞏固,不能應用于新的設計中避免或減少類似問題的發生,各種問題循環反復。與單獨進行不同的工作相比,企業數據治理與數據建模聯合起來更好,嵌入數據治理可以更有效開發和維護企業數據模型,企業數據建模使數據治理工作更有效,全面提升數據生產質量,給數據消費者提供高質量數據。



讓中國金融科技 具有世界影響力
長亮科技更懂如何為您的數字化轉型賦能
激情小说 五月 | 日韩性片 | 九九热精品国产 | 成年人在线免费视频观看 | 国产精品国产三级国产aⅴ入口 | 国产资源免费在线观看 | 99在线观看免费视频精品观看 | 欧美va天堂va视频va在线 | 国产三级精品在线 | 综合铜03| 久久久国产在线视频 | 色播99| 91高清完整版在线观看 | 在线 精品 国产 | 色婷婷福利视频 | 91麻豆免费版 | 四虎影视欧美 | 美女视频黄免费网站 | 亚洲免费a| www.黄色片网站 | 狠狠色丁香婷婷综合基地 | 黄色一级影院 | 999成人精品 | 91麻豆免费看 | 日本三级在线观看中文字 | 国产在线一卡 | 91久久国产自产拍夜夜嗨 | 日韩欧美精品免费 | 高清国产午夜精品久久久久久 | 日韩激情精品 | 国产999视频在线观看 | 欧美日韩国产色综合一二三四 | 久久综合五月婷婷 | 色亚洲网 | 狠狠狠干 | 亚洲爱av | 在线91观看 | 日韩中出在线 | av成人免费在线看 | 国产免费av一区二区三区 | 日韩免费视频播放 | 在线精品一区二区 | 中国一级片免费看 | 免费看黄色大全 | 成人黄色小说在线观看 | 亚洲另类视频在线观看 | 97香蕉超级碰碰久久免费软件 | 黄色网www | 91视频国产高清 | 国产成人一区二区三区免费看 | 日本一区二区免费在线观看 | 91精品一区在线观看 | 亚洲精品一区二区精华 | 亚洲天天在线 | 波多野结衣视频网址 | 天天在线视频色 | 视频在线国产 | 亚洲精品午夜一区人人爽 | 黄色一级大片在线观看 | 激情中文字幕 | 一级a毛片高清视频 | 麻豆国产露脸在线观看 | 四虎成人精品永久免费av九九 | 欧洲色综合 | 成人av免费在线播放 | 国产美女精品视频免费观看 | 中文字幕成人在线 | 日韩精品欧美视频 | 天天操天天干天天摸 | 欧美精品久久久久久久久久久 | 久久99在线| 一区二区中文字幕在线 | 免费看片日韩 | 99精品久久久久久久 | 一区中文字幕 | 亚洲欧美va | av五月婷婷 | 国产视频精品久久 | 五月婷婷视频在线 | 97天堂网 | 一区二区视 | 精品99999 | 国产麻豆精品免费视频 | 中文av在线天堂 | 欧美a在线免费观看 | 天天激情站 | 毛片一二区 | 久久天天综合网 | 国产福利免费在线观看 | 91精品少妇偷拍99 | 91精品视频在线免费观看 | 五月天婷亚洲天综合网精品偷 | 91尤物在线播放 | av资源免费在线观看 | 久久乱码卡一卡2卡三卡四 五月婷婷久 | 91欧美国产| 91人人澡人人爽人人精品 | 欧美激情亚洲综合 | 日韩高清www| 久久久免费观看完整版 | 国产99久久精品一区二区永久免费 | 女人18毛片90分钟 | 国产亚洲精品久久久久久久久久 | 欧美精品在线观看免费 | 日韩在线欧美在线 | 91av中文字幕 | 日韩动态视频 | 激情av综合 | 国产69久久久欧美一级 | 久久午夜精品影院一区 | 国产视频二区三区 | 欧美在线91 | 久久精品这里热有精品 | 日韩激情综合 | 91精品一区二区三区蜜臀 | 国产麻豆精品免费视频 | 日韩乱码在线 | 国产精品久久久久久久久久久免费看 | 成人性生交大片免费观看网站 | 韩国av电影在线观看 | 97碰碰碰 | 亚洲一区欧美精品 | av色综合网| 免费看成人片 | 久色小说 | 天天综合精品 | 免费看的黄色的网站 | 欧美成人aa | 九九热re | 亚洲黄色片 | 日韩欧美在线高清 | 丝袜制服天堂 | 曰本免费av | 美女露久久 | 99久久精品国产一区二区三区 | 国产精品久久久久久久久岛 | 国内外成人免费在线视频 | 玖玖爱在线观看 | 欧美成人tv | 久久久蜜桃一区二区 | 亚洲欧美国产精品久久久久 | 蜜臀av免费一区二区三区 | 欧美一二区视频 | 成人免费视频免费观看 | 欧美精品亚洲二区 | 日韩电影在线观看一区二区三区 | 日本精品在线 | 丁香激情综合 | 国产成人精品综合久久久久99 | 久久久久久国产精品亚洲78 | 国产亚洲婷婷免费 | 亚洲综合丁香 | 99色在线视频 | 福利视频一二区 | 又爽又黄又刺激的视频 | 国产成人61精品免费看片 | 久久成人综合视频 | 国产成人黄色片 | 色com网 | 四虎在线免费观看 | 国产 字幕 制服 中文 在线 | 日韩欧美在线观看一区 | 久久一线| 午夜av在线电影 | 亚洲精品动漫久久久久 | 亚洲精品乱码久久久久久按摩 | 日韩午夜精品 | 国产你懂的在线 | 亚洲免费观看在线视频 | 国产一区免费观看 | 亚洲精选在线 | 国产美女免费视频 | 91精品国产综合久久福利不卡 | 亚洲播放一区 | 最新国产中文字幕 | www.97视频 | 精品国产一区二区三区蜜臀 | 天天操人人干 | 久久婷婷丁香 | 欧美一区二视频在线免费观看 | 毛片永久新网址首页 | 日韩二区三区在线观看 | 精品视频资源站 | 午夜日b视频 | 波多野结衣久久精品 | 国产精品一区二区久久精品爱微奶 | 毛片3| 欧美一区二视频在线免费观看 | 国产三级香港三韩国三级 | 欧美一级特黄高清视频 | 欧美精品日韩 | 欧美一级淫片videoshd | 精品国产免费人成在线观看 | 成人观看视频 | 日韩 精品 一区 国产 麻豆 | 日韩av女优视频 | 日韩激情中文字幕 | 国产一级二级三级在线观看 | 国产免费一区二区三区最新6 | 中文字幕日韩国产 | 久久久午夜影院 | 黄色在线网站噜噜噜 | 黄色在线观看www | 久久人人爽人人爽人人片av免费 | 欧美精品久久久久久久久久 | 91视频免费国产 | 毛片1000部免费看 | 久久视频99| 5月丁香婷婷综合 | 97国产大学生情侣酒店的特点 | 日韩av网站在线播放 | 亚洲区精品 | 亚洲国产午夜精品 | 免费观看一级特黄欧美大片 | 日韩亚洲欧美中文字幕 | av线上免费观看 | 国产999精品久久久久久绿帽 | 91免费版成人 | 亚洲jizzjizz日本少妇 | 91免费高清在线观看 | av三级在线播放 | 久久精品视频在线播放 | 色妞色视频一区二区三区四区 | 国产精品不卡在线 | 国产aaa免费视频 | www.91国产| 韩日av在线 | 午夜视频不卡 | 欧美一级片在线免费观看 | 久草免费福利在线观看 | 一区二区三区四区免费视频 | 国产69精品久久久久久 | 高清在线一区二区 | 在线观看av黄色 | 色美女在线 | 激情av网址 | 亚洲天堂自拍视频 | 黄色午夜网站 | 国产69久久久 | 欧美五月婷婷 | 九九热精品视频在线播放 | 香蕉影院在线播放 | 亚洲精品国产精品国自 | 狠狠狠狠狠狠操 | 探花系列在线 | 日韩久久久久久久久久久久 | 欧美一级片在线观看视频 | 成人久久综合 | 日韩网站在线看片你懂的 | av中文字幕在线免费观看 | 久久国产精品免费一区二区三区 | 日日成人网 | 日韩视频一区二区在线观看 | 国产做a爱一级久久 | 久久精品国产v日韩v亚洲 | 久久a热6 | av在线收看 | 亚洲伊人第一页 | 国产精品欧美久久久久无广告 | 欧美成人一二区 | 婷婷丁香九月 | 又黄又爽又湿又无遮挡的在线视频 | 99在线国产 | 狠狠躁18三区二区一区ai明星 | 99久久电影 | 免费看一级片 | 伊人www22综合色 | 亚洲国产高清在线观看视频 | av免费电影网站 | 亚洲精品国产视频 | 国产高清av免费在线观看 | 在线视频观看91 | 丁香六月天婷婷 | 欧美美女激情18p | 色六月婷婷| 色a在线观看 | 天天伊人狠狠 | 久久综合精品一区 | 97在线免费视频 | 美女国内精品自产拍在线播放 | 超碰97在线看 | 久久久久 | av 一区二区三区四区 | 97超碰人人澡人人爱 | 久久久久女教师免费一区 | 欧美色图亚洲图片 | 国内精品毛片 | 国产日韩欧美精品在线观看 | 国产视频日韩视频欧美视频 | 婷婷丁香激情 | 中文字幕免费观看 | 久久成人高清视频 | 视频高清| 日韩在线视频线视频免费网站 | 天天色天天操综合网 | 成人毛片一区 | 91精品资源| 免费在线观看国产黄 | 亚洲国产一区二区精品专区 | 97超碰福利久久精品 | 欧美精品免费在线观看 | 亚洲区二区 | 中文字幕之中文字幕 | 深夜国产福利 | 天天做天天射 | 91视频亚洲 | 成年人免费在线播放 | 免费 在线 中文 日本 | 97热久久免费频精品99 | 日韩r级在线 | 午夜黄网 | 玖玖在线免费视频 | 成人精品福利 | 激情丁香5月 | 国产精品女人网站 | 国产精品夜夜夜一区二区三区尤 | 欧美孕交vivoestv另类 | 久久久鲁 | 女人高潮一级片 | 国产一区二区在线播放视频 | 美女黄频在线观看 | 国产尤物在线视频 | 亚洲成人av一区 | 日韩专区在线播放 | 在线视频日韩欧美 | 五月婷婷黄色 | 久草在线资源视频 | 日韩欧美在线高清 | 超碰免费观看 | 97视频在线观看播放 | 中文字幕一区二区三区久久 | 国产成人亚洲在线观看 | 亚洲精品国产精品乱码不99热 | 国产高清网站 | 国产一二三四在线观看视频 | 国产精品成人久久久久久久 | 久久婷婷丁香 | 亚洲精品美女在线 | 久久国际影院 | 精品一区 在线 | 成人日韩av| 93久久精品日日躁夜夜躁欧美 | 狠狠狠狠狠操 | 成人久久免费视频 |