⑴ 數據治理(四):數據倉庫數據質量管理
在音樂數據中心數倉項目的「統計地區營收情況業務」中,數據倉庫數據質量管理重點放在ODS層、EDS層(包括DWD層、DWS層)以及DM層。每層數據校驗內容不同,可通過自編shell+Hive腳本或使用質量監控工具Griffin進行監控。在業務執行前,需要清空和重新創建Hive各層數據表,並向MySQL導入ycak與ycbk庫的數據。ODS層數據質量監控關注當日導入數據的記錄數、關注欄位為空的記錄數、重復記錄數及全表總記錄數。EDS層數據質量監控分為DWD層與DWS層,DWD層校驗數據來源表的記錄數一致性及數據有效比例,DWS層關注數據條目與上層一致性、總條數、重要欄位為空的記錄數及聚合欄位值異常條數。DM層數據質量監控側重於數據值是否在合理范圍內,每個報表數據有其特定的校驗指標。
在ODS層,創建數據質量監控資料庫和表,編寫數據校驗腳本「ods_data_check.sh」,輸入參數包括校驗數據日期、Hive庫名、校驗表名、增量標志及關注欄位,對ODS部分表進行校驗。
EDS層包括DWD層和DWS層數據質量監控。DWD層校驗關注ODS層數據來源表的記錄數一致性及數據有效比例,編寫「dwd_data_check.sh」腳本,針對不同的DWD層數據表定製校驗內容。DWS層校驗DWS層表中數據總條數、重要欄位為空的記錄數及聚合欄位值異常條數,針對不同的DWS層數據表定製校驗內容,編寫「dws_data_check.sh」腳本。
DM層數據質量監控根據報表數據的具體需求,每個報表有其特定的校驗指標,不再詳細校驗「商戶營收統計」業務中的DM層表「TM_USR_MRCHNT_STAT_D」。數據質量監控確保數據倉庫中的數據符合業務需求,提高數據的准確性和可靠性。
⑵ 在hive資料庫中怎麼查看錶結構(hive查看資料庫中的表)
查看錶結構信息如下
1、descformattedtable_name;
2、desctable_name。
一、電腦常見問題
主板不啟動,開機無顯示,有顯卡報警聲。
故障原因:一般是顯卡松動或顯卡損壞。
處理辦法:打開機箱,把顯卡重新插好即可。要檢查AGP插槽內是否有小異物,否則會使顯卡不能插接到位;對於使用語音報警的主板,應仔細辨別語音提示的內容,再根據內容解決相應故障。
如果以上辦法處理後還報警,就可能是顯卡的晶元壞了,更換或修理顯卡。如果開機後聽到"嘀"的一聲自檢通過,顯示器正常但就是沒有圖像,把該顯卡插在其他主板上,使用正常,那就是顯卡與主板不兼容,應該更換顯卡。