資料倉儲技術(Data Warehousing)是基於資訊系統業務發展的需要,基於資料庫系統技術發展而來,並逐步獨立的一系列新的應用技術。資料倉儲主要有兩大技術:OLTP和OLAP,我們來分析:
一、OLTP和OLAP
# OLTP的全名為Online Transaction Processing, OLTP主要用傳統的關係型資料庫來進行交易處理。 OLTP最核心的需求是單一記錄的高效快速處理,索引技術、分庫分錶等最根本的訴求就是解決此問題。
OLAP的全名是Online Analytical Processing,OLAP能夠處理和統計大量的數據,不像OLTP數據庫需要考慮數據的增刪改查和並發控制等,OLAP數據一般只需要處理數據查詢請求,數據導入批量導入的,因此透過列存儲,列壓縮和位圖索引等技術可以大大加快響應請求的速度。
二、OLTP與OLAP資料的簡單比較#三、資料倉儲邏輯架構設計
離線資料倉儲通常基於維度建模理論來構建,離線資料倉儲通常從邏輯上進行分層,分詞主要出於以下考慮:######1、隔離性:使用者使用的應該是數據團隊精心加工後的數據,而不是來自於業務系統的原始數據,這樣做的好處一是,用戶使用的是精心準備過的、規範的、乾淨的、從業務視角的數據。非常容易理解和使用。二是如果上游業務系統發生變革甚至重構(例如表格結構、欄位、業務意義等),資料團隊會負責處理所有這些變化,最小化對下游使用者的影響。 ######2、性能和可為維護性: 專業的人做專業的事,數據分層使得數據的加工基本上都在數據團隊,從而相同的業務邏輯不用重複執行,節省了相應的存儲和計算開銷。此外資料分層也使得資料倉儲的維護變得清晰且便捷,每層只負責各自的任務,某層的資料加工出現問題,只需要修改該層即可。 ######3、規範:對一個公司和組織來說,數據的口徑非常重要,大家談論一個指標的時候,必須基於一個明確的、公認i的口徑,此外表、字段以及指標必須進行規範。 ######4、ODS層:資料倉儲來源系統的資料表通常會原封不動地儲存一份,這稱為ODS(Operation Data Store)層, ODS層也常會被稱為準備區( Staging area),它們是後續資料倉儲層(即基於Kimball維度建模產生的事實表和維度表層,以及基於這些事實表和明細表加工的匯總層資料)加工資料的來源,同時ODS層也儲存著歷史的增量資料或全量資料。 ######5、DWD和DWS層:資料倉儲明細層(Data Warehouse Detail , DWD)和資料倉儲匯總層(Data Warehouse Summary, DWS)是資料倉儲的主題內容。 DWD和DWS層的資料是ODS層經過ETL清洗、轉換、載入產生的,而且它們通常都是基於Kimball的維度建模理論來建構的,並透過一致性維度和資料匯流排來保證各個子主題的維度一致性。 ######6、應用層(ADS):應用層主要是各個業務放或部門基於DWD和DWS建立的資料集市(Data Mart,DM),資料集市DM是相對於DWD和DWS的資料倉儲(Data Warehouse, DW)來說的。一般來說,應用層的資料來自DW層,但原則上不允許直接存取ODS層。此外,相較於DW層,應用層只包含部門或因為方自己關心的明細層和總計層資料。 ###以上是資料倉儲需要什麼技術的詳細內容。更多資訊請關注PHP中文網其他相關文章!

熱AI工具

Undresser.AI Undress
人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover
用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool
免費脫衣圖片

Clothoff.io
AI脫衣器

Video Face Swap
使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱門文章

熱工具

SAP NetWeaver Server Adapter for Eclipse
將Eclipse與SAP NetWeaver應用伺服器整合。

SublimeText3 英文版
推薦:為Win版本,支援程式碼提示!

MantisBT
Mantis是一個易於部署的基於Web的缺陷追蹤工具,用於幫助產品缺陷追蹤。它需要PHP、MySQL和一個Web伺服器。請查看我們的演示和託管服務。

DVWA
Damn Vulnerable Web App (DVWA) 是一個PHP/MySQL的Web應用程序,非常容易受到攻擊。它的主要目標是成為安全專業人員在合法環境中測試自己的技能和工具的輔助工具,幫助Web開發人員更好地理解保護網路應用程式的過程,並幫助教師/學生在課堂環境中教授/學習Web應用程式安全性。 DVWA的目標是透過簡單直接的介面練習一些最常見的Web漏洞,難度各不相同。請注意,該軟體中

SecLists
SecLists是最終安全測試人員的伙伴。它是一個包含各種類型清單的集合,這些清單在安全評估過程中經常使用,而且都在一個地方。 SecLists透過方便地提供安全測試人員可能需要的所有列表,幫助提高安全測試的效率和生產力。清單類型包括使用者名稱、密碼、URL、模糊測試有效載荷、敏感資料模式、Web shell等等。測試人員只需將此儲存庫拉到新的測試機上,他就可以存取所需的每種類型的清單。