導航:首頁 > 數據處理 > 如何將數據標准化

如何將數據標准化

發布時間:2023-01-12 05:12:59

㈠ 數據標准化的幾種方法

在某些比較和評價的指標處理中經常會用到,去除數據的單位限制,將其轉化為無量綱的純數值,便於不同單位或量級的指標能夠進行比較和加權。其中最典型的就是數據的歸一化處理,即將數據統一映射到[0,1]區間上,常見的數據歸一化的方法有:min-max標准化(Min-max
normalization)也叫離差標准化,是對原始數據的線性變換,使結果落到[0,1]區間,轉換函數如下:其中max為樣本數據的最大值,min為樣本數據的最小值。log函數轉換通過以10為底的log函數轉換的方法同樣可以實現歸一下,具體方法如下:看了下網上很多介紹都是x*=log10(x),其實是有問題的,這個結果並非一定落到[0,1]區間上,應該還要除以log10(max),max為樣本數據最大值,並且所有的數據都要大於等於1。而並非所有數據標准化的結果都映射到[0,1]區間上,其中最常見的標准化方法就是Z標准化,也是SPSS中最為常用的標准化方法:z-score
標准化(zero-mean
normalization)也叫標准差標准化,經過處理的數據符合標准正態分布,即均值為0,標准差為1,其轉化函數為:其中μ為所有樣本數據的均值,σ為所有樣本數據的標准差。

㈡ 數據標准化的幾種方法是什麼

方法一:規范化方法也叫離差標准化,是對原始數據的線性變換,使結果映射到[0,1]區間。方法二:正規化方法這種方法基於原始數據的均值(mean)和標准差(standard deviation)進行數據的標准化。將A的原始值x使用z-score標准化到x』。z-score標准化方法適用於屬性A的最大值和最小值未知的情況,或有超出取值范圍的離群數據的情況。spss默認的標准化方法就是z-score標准化。用Excel進行z-score標准化的方法:在Excel中沒有現成的函數,需要自己分步計算,其實標准化的公式很簡單。步驟如下:1.求出各變數(指標)的算術平均值(數學期望)xi和標准差si ;2.進行標准化處理:zij=(xij-xi)/si其中:zij為標准化後的變數值;xij為實際變數值。3.將逆指標前的正負號對調。標准化後的變數值圍繞0上下波動,大於0說明高於平均水平,小於0說明低於平均水平。

㈢ 數據標准化

據的標准化(normalization)是將數據按照一定規則縮放,使之落入一個小的特定區間。這樣去除數據的單位限制,將其轉化為無量綱的純數值,便於不同單位或量級的指標能夠進行比較和加權。其中最典型的就是0-1標准化和Z標准化,當然,也有一些其他的標准化方法,用在不同場景,這里主要介紹幾種常用的方法。

1、Min-Max標准化(Min-Max normalization)

也稱離差標准化,是對原始數據的線性變換,使結果落到[0,1]區間,轉換函數如下:

yi=xi−min{xj}max{xj}−min{xj},(1≤i≤n,1≤j≤n)

其中max{xj}為樣本數據的最大值,min{xj}為樣本數據的最小值。這種方法有一個缺陷就是當有新數據加入時,可能導致max和min的變化,需要重新定義。

2、Z-score 標准化(zero-mean normalization)

也叫標准差標准化,經過處理的數據符合標准正態分布,即均值為0,標准差為1,其轉化函數為:

yi=xi−x¯s,(1≤i≤n)

其中x¯為所有樣本數據的均值,s 為所有樣本數據的標准差。

經過 Z-score 標准化後,各變數將有約一半觀察值的數值小於0,另一半觀察值的數值大於0,變數的平均數為0,標准差為1。經標准化的數據都是沒有單位的純數量。它是當前用得最多的數據標准化方法。如果特徵非常稀疏,並且有大量的0(現實應用中很多特徵都具有這個特點),Z-score 標准化的過程幾乎就是一個除0的過程,結果不可預料。

3、歸一標准化

yi=xi∑n1x2i,(1≤i≤n)

則新序列y1,y2,…,yn∈[0,1]且無量綱並且顯然有∑niyi=1.

歸一化方法在確定權重時經常用到。針對實際情況,也可能有其他一些量化方法,或者要綜合使用多種方法,總之最後的結果都是無量綱化。

㈣ 數據標准化方法:該如何選擇

原文鏈接:

數據標准化方法:該如何選擇?

什麼是數據標准化?

在微生物組學數據分析之前,我們常常需要根據數據量綱的不同以及分析方法的需要對數據進行各種預處理,也即數據標准化。 數據標准化的目的是使數據的總體符合某種要求,例如使數據總體符合正態分布以方便參數檢驗、使數據范圍相同以方便比較分析、使數據分布均勻以方便作圖展示等 。我們必須知道不同標准化方法的內涵,從而在實際研究中可以選擇正確的數據標准化方法。

首先我們介紹一下數據轉換。簡單數據轉換也即對整體數據進行簡單運算,數據轉換的目的主要有三個,一是改變數據結構,例如 非線性通過平方根、對數轉換為線性 ;二是改變數據范圍,便於比較和作圖分析,例如數據變化特別大的可以進行對數轉換來縮小屬性范圍;三是改變數據分布,使得樣本偏離標准分布太遠的更加接近標准分布(例如正態分布)。常見的數據轉換有以下幾種:

對數轉換 :將數據(樣本觀察值)取自然對數(或者其他數為底的對數),可以使用log()函數來實現(log1p()可以將數據加1後取自然對數)。若是數據中有0或負值,可以全部數據加上一個數轉換為正數。一般來說自然對數轉換可以使0~1范圍內的數據范圍變大,可以使>1范圍內數據范圍變緊湊。

平方根轉換 :將數據全部取平方根,可以使用sqrt(x)或者x^0.5來實現。類似的還有立方根轉換、四次方根轉換,偶數次方根要求數據非負。如果數據結構為二次關系,平方根轉換後平方根轉換可以使數據范圍變小。

倒數轉換 :將數據全部取倒數,也即1/x,倒數轉換使0~1范圍內的數據范圍變大,使>1范圍內數據范圍變緊湊,而且轉換後數據為倒序。

數據轉換僅僅是對數據中每個觀察值的獨立處理,而標准化則涉及到數值之間的處理。下面我們以生態學常用的vegan包中的decostand()函數為例,分析不同標准化方法的差別,此函數使用方法如下:

decostand(x, method, MARGIN, range.global, logbase = 2, na.rm=FALSE, ...)

其中x為向量或矩陣,method為標准化方法,MARGIN=1按行處理,MARGIN=2按列處理,不同標准化方法介紹如下:

①method="pa",將數據轉換為有-無(1-0)類型,若分析不加權的情況群結構下可以使用;

②method="max",最大值標准化,將數據除以該行或者列的最大值(defaultMARGIN=2)。若數據非負,最大值標准化後數據全部位於0到1之間。

③method="total",總和標准化,將數據除以該行或者列的總和,也即求相對豐度(default MARGIN=1),總和標准化後數據全部位於0到1之間。

④method="range",Min-max標准化,將數據減去該行或者列的最小值,並比上最大值與最小值之差(defaultMARGIN=2),Min-max標准化後的數據全部位於0到1之間。

⑤method="normalize",模標准化,將數據除以每行或者每列的平方和的平方根(default MARGIN=1),模標准化後每行、列的平方和為1(向量的模為1),也即在笛卡爾坐標系中到原點的歐氏距離為1,樣品分布在一個圓弧上,彼此之間的距離為弦長,因此也稱為弦轉化。 在基於歐氏距離的 PCA 、 RDA 中分析群落數據可以將每個樣方弦轉化可以彌補歐氏距離的缺陷 。弦轉化後的數據使用歐氏距離函數計算將得到 弦距離矩陣 。

⑥method="hellinger",hellinger轉化,就是總和標准化數據的平方根(default MARGIN=1),hellinger轉化後的數據使用歐氏距離函數計算將得到 hellinger 距離矩陣 。

⑦method="chi.square",卡方轉化,在默認(defaultMARGIN=1)的情況下是數據除以行的和再除以列的和的平方根,卡方轉化後的數據使用歐氏距離函數計算將得到 卡方距離矩陣 。

⑧Wisconsin轉化,這個是使用伴隨的函數wisconsin(),將數據除以該列最大值再除以該行總和,是最大值標准化和總和標准化的結合。

⑨method="standardize",z-score標准化,最常用的標准化方法之一,將數據減去均值比上標准差(default MARGIN=2),z-score標准化後數據均值為0,方差為1,服從正態總體的數據標准化後服從標准正態分布。z-score標准化可以去除不同環境因子量綱的影響。

一般情況下,上面方法中默認MARGIN=1是默認對樣品進行處理,默認MARGIN=2是默認對物種或者環境變數進行處理。

為了比較不同標准化方法對群落數據的影響,我們使用只有兩個物種的虛擬群落進行處理,然後在笛卡爾坐標系進行展示(彼此之間是歐氏距離):

#假設虛擬數據:2個物種在5個樣方的分布

spe1=c(0.1,0.2,0.3,0.4,0.5)

spe2=c(0.6,0.7,0.8,0.9,1)

ab=cbind(spe1,spe2)

rownames(ab)=LETTERS[1:5]

#各種標准化

ab1=decostand(ab, MARGIN=1, "total")

ab2=decostand(ab, MARGIN=1, "normalize")

ab3=decostand(ab, MARGIN=1, "hellinger")

ab4=decostand(ab, MARGIN=1, "chi.square")

ab5=wisconsin(ab)

#作圖觀察不同標准化方法距離差異

par(mfrow=c(2,3))

plot(ab[,1], ab[,2], xlim=0:1, ylim=0:1, main="Rawdata")

text(ab[,1], ab[,2]-0.05, labels=rownames(ab), cex=1.2)

plot(ab1[,1], ab1[,2], xlim=0:1, ylim=0:1, main="Total")

text(ab1[,1], ab1[,2]-0.05, labels=rownames(ab), cex=1.2)

plot(ab2[,1], ab2[,2], xlim=0:1, ylim=0:1,main="Normalize")

text(ab2[,1], ab2[,2]-0.05, labels=rownames(ab), cex=1.2)

plot(ab3[,1], ab3[,2], xlim=0:1, ylim=0:1,main="Hellinger")

text(ab3[,1], ab3[,2]-0.05, labels=rownames(ab), cex=1.2)

plot(ab4[,1], ab4[,2], xlim=0:1, ylim=0:1,main="Chi.square")

text(ab4[,1], ab4[,2]-0.05, labels=rownames(ab), cex=1.2)

plot(ab5[,1], ab5[,2], xlim=0:1, ylim=0:1,main="Wisconsin")

text(ab5[,1], ab5[,2]-0.05, labels=rownames(ab), cex=1.2)

結果如下所示:

在沒有處理的情況下,群落之間的歐氏距離相等,然而在生態學方面我們不這么看,因為B中物種1的數量是A的兩倍,其群落差異顯然比D、E更大,五種處理方法標准化數據後的結果都比較好的證實了上面的猜想,尤其是最後兩種。 然而在微生物生態中,我們傾向於認為微生物群落是一個整體,不同樣品之間物種的相對豐度是有可比較的實際意義的,因此最常用的就是總和標准化 (當然在不涉及豐度比較的聚類和排序分析中各種標准化方法都可以嘗試,在傳統群落研究里,雖然經常使用中心化等方法,但是需要使用蓋度等對不同物種進行加權,因此直接進行總和標准化從某種意義上是使用相對豐度進行加權)。

對於物理、化學變數而言,則完全不同,因為環境變數的值具有絕對性,例如溫度1-2℃和21-22℃其差異是一樣的。環境變數由於量綱不同, 在計算距離矩陣(歐氏距離)、根據特徵根提取的主成分分析、比較系數的回歸分析之前,均需要進行 z-score標准化。

㈤ 幾種常用數據標准化方法

評價是現代社會各領域的一項經常性的工作,是科學做出管理決策的重要依據。隨著人們研究領域的不斷擴大,所面臨的評價對象日趨復雜,如果僅依據單一指標對事物進行評價往往不盡合理,必須全面地從整體的角度考慮問題,多指標綜合評價方法應運而生。所謂多指標綜合評價方法,就是把描述評價對象不同方面的多個指標的信息綜合起來,並得到一個綜合指標,由此對評價對象做一個整體上的評判,並進行橫向或縱向比較。

而在 多指標評價體系中,由於各評價指標的性質不同,通常具有不同的量綱和數量級。當各指標間的水平相差很大時,如果直接用原始指標值進行分析,就會突出數值較高的指標在綜合分析中的作用,相對削弱數值水平較低指標的作用。 因此,為了保證結果的可靠性,需要對原始指標數據進行標准化處理。

目前數據標准化方法有多種,歸結起來可以分為直線型方法(如極值法、標准差法)、折線型方法(如三折線法)、曲線型方法(如半正態性分布)。不同的標准化方法,對系統的評價結果會產生不同的影響,然而不幸的是, 在數據標准化方法的選擇上,還沒有通用的法則可以遵循。

數據的標准化(normalization)是將數據按比例縮放,使之落入一個小的特定區間。在某些比較和評價的指標處理中經常會用到,去除數據的單位限制,將其轉化為無量綱的純數值,便於不同單位或量級的指標能夠進行比較和加權。其中最典型的就是數據的歸一化處理,即將數據統一映射到[0,1]區間上,常見的數據歸一化的方法有:min-max標准化(Min-max normalization),log函數轉換,atan函數轉換,z-score標准化(zero-mena normalization,此方法最為常用),模糊量化法。本文只介紹min-max法(規范化方法),z-score法(正規化方法),比例法(名字叫啥不太清楚,歸一化方法)。

也叫離差標准化,是對原始數據的線性變換,使結果落到[0,1]區間,轉換函數如下:

通過以10為底的log函數轉換的方法同樣可以實現歸一下,具體方法看了下網上很多介紹都是 x =log10(x) ,其實是有問題的,這個結果並非一定落到[0,1]區間上, 應該還要除以log10(max) *,max為樣本數據最大值,並且所有的數據都要大於等於1。

用反正切函數也可以實現數據的歸一化,使用這個方法需要注意的是如果想映射的區間為[0,1],則 數據都應該大於等於0,小於0的數據將被映射到[-1,0]區間上。

而並非所有數據標准化的結果都映射到[0,1]區間上,其中最常見的標准化方法就是Z標准化;也是SPSS中最為常用的標准化方法,也叫 標准差標准化

㈥ 問卷數據的標准化

數據的標准化是將數據按比例縮放,使之落入一個小的特定區間。由於信用指標體系的各個指標度量單位是不同的,為了能夠將指標參與評價計算,需要對指標進行規范化處理,通過函數變換將其數值映射到某個數值區間。一般常用的有以下幾種方法。

生成的newvar的均數為0,SD為1

數據中心化和標准化的意義是一樣的,為了消除量綱對數據結構的影響。

在R語言中可以使用 scale 方法來對數據進行中心化和標准化:

scale方法中的兩個參數center和scale的解釋:
1.center和scale默認為真,即T或者TRUE
2.center為真表示數據中心化
3.scale為真表示數據標准化

sweep再舉一個例子:

有些地方說歸一化,有些地方說標准化。

㈦ 怎樣利用Excel對數據進行min-max標准化

方法和詳細的操作步驟如下:

1、第一步,打開excel並輸入一些數據,見下圖,轉到下面的步驟。

閱讀全文

與如何將數據標准化相關的資料

熱點內容
瑪麗黛佳哪些產品好用 瀏覽:750
交易失敗是怎麼回事 瀏覽:408
宜昌有哪些好的職業技術學校 瀏覽:285
換手機後多多自走棋怎麼同步數據 瀏覽:625
微信小程序申請的etc是哪裡的卡 瀏覽:934
海富通電子信息產業股票有哪些 瀏覽:960
網購香港的東西需要什麼程序 瀏覽:675
美團小程序如何聯系商家 瀏覽:777
資料庫版本如何進行迭代更新 瀏覽:855
淘寶怎麼不代理房產了 瀏覽:165
如何辦保險代理人 瀏覽:72
騰訊mot什麼產品好 瀏覽:786
成都舊銅交易市場在哪裡 瀏覽:239
非實時信息交流什麼意思 瀏覽:591
計算機存儲設備負責哪些數據 瀏覽:403
天線原理和微波技術基礎哪個難 瀏覽:813
戰時用什麼接收信息 瀏覽:259
家庭醫生產品如何銷售 瀏覽:304
如何查北京成交數據 瀏覽:246
物流信息多久就沒有了 瀏覽:719