大數據是根據什麼檢測的

『壹』 大數據能檢測到你在哪條街哪個房間嗎

能檢測到，首先是基於手機移動數據確定位置信息，也叫基源定位方法，這是最常用的方法，也是此次新發地大數據篩查當中，效率最高的手段。其次是通過社會交往信息分析，這並不是指通過社交軟體信息判斷，而是結合已有數據，通過電話調查、摸排走訪等方式，最終形成相對可靠的數據信息。可以通過物品信息確認，除了對經過者、密切接觸者的篩查，也排查了不少物品和貨品，在這個過程當中，通過對特定攜帶病毒物品的路徑和接觸者追蹤。

『貳』 大數據的概念

大數據概述
專業解釋：大數據英文名叫big data，是一種IT行業術語，是指無法在一定時間范圍內用常規軟體工具進行捕捉、管理和處理的數據集合，是需要新處理模式才能具有更強的決策力、洞察發現力和流程優化能力的海量、高增長率和多樣化的信息資產。
通俗解釋：大數據通俗的解釋就是海量的數據，顧名思義，大就是多、廣的意思，而數據就是信息、技術以及數據資料，合起來就是多而廣的信息、技術、以及數據資料。
大數據提出時間
「大數據」這個詞是由維克托·邁爾-舍恩伯格及肯尼斯·庫克耶於2008年8月中旬共同提出。
大數據的特點
Volume（大量）、Velocity（高速）、Variety（多樣）、Value（低價值密度）、Veracity（真實性）-由IBM提出。
大數據存在的意義和用途是什麼？
看似大數據是一個很高大上的感覺，和我們普通人的生活相差甚遠，但是其實不然！大數據目前已經存在我們生活中的各種角落裡了，舉個例子，我們現在目前最關心的疫情情況數據，用的就是大數據的技術，可以實時查看確診人數以及各種疫情數據。
大數據存在的意義是什麼？
從剛才的舉例中我們基本可以了解，大數據是很重要的，其存在的意義簡單來說也是為了幫助人們更直觀更方便的去了解數據。而通過了解這些數據後又可以更深一步的去挖掘其他有價值的數據，例如今日頭條/抖音等產品，通過對用戶進行整理和分析，然後根據用戶的各種數據來判斷用戶的喜愛，進而推薦用戶喜歡看的東西，這樣做不僅提升了自身產品的體驗度，也為用戶提供了他們需要的內容。
大數據的用途有哪些？
要說大數據的用途，那可就相當廣泛了，基本各行各業都可以運用到大數據的知識。如果簡單理解的話，可分為以下四類：
用途一：業務流程優化
大數據更多的是協助業務流程效率的提升。能夠根據並運用社交網路數據信息 、網站搜索及其天氣預告找出有使用價值的數據信息，這其中大數據的運用普遍的便是供應鏈管理及其派送線路的提升。在這兩個層面，自然地理精準定位和無線通信頻率的鑒別跟蹤貨物和送大貨車，運用交通實時路況線路數據信息來選擇更好的線路。人力資源管理業務流程也根據大數據的剖析來開展改善，這這其中就包含了職位招聘的調整。
用途二：提高醫療和研發
大型數據分析應用程序的計算能力允許我們在幾分鍾內解碼整個dna。可以創造新的治療方法。它還能更好地掌握和預測疾病。如同大家配戴智能手錶和別的能夠轉化成的數據信息一樣，互聯網大數據還可以協助病人盡快醫治疾患。現在大數據技術已經被用於醫院監測早產兒和生病嬰兒的狀況。通過記錄和分析嬰兒的心跳，醫生預測可能的不適症狀。這有助於醫生更好地幫助寶寶。
用途三：改善我們的城市
大數據也被用於改進我們在城市的生活起居。比如，依據城市的交通實時路況信息，運用社交媒體季節變化數據信息，增加新的交通線路。現階段，很多城市已經開展數據分析和示範點新項目。
用途四：理解客戶、滿足客戶服務需求
互聯網大數據的運用在這個行業早已廣為人知。重點是如何使用大數據來更好地掌握客戶及其興趣和行為。企業非常喜歡收集社交數據、瀏覽器日誌、分析文本和感測器數據，以更全面地掌握客戶。一般來說，建立數據模型是為了預測。
如何利用大數據？
那我們了解了這么多關於大數據的知識，既然大數據這么好，我們怎麼去利用大數據呢？那這個就要說到大數據的工具BI了，BI簡單理解就是用來分析大數據的工具，從數據的採集到數據的分析以及挖掘等都需要用到BI，BI興起於國外，比較知名的BI工具有Tableau、Power BI等；而國內比較典型的廠家就是億信華辰了。雖然BI興起於國外，但是這些年隨著國內科技的進步以及不斷的創新，目前國內BI在技術上也不比國外的差，而且因為國內外的差異化，在BI的使用邏輯上，國內BI更符合國內用戶的需求。

『叄』 大數據分析是什麼優缺點是什麼大數據的優缺點

數據分析是指用適當的統計分析方法對收集來的大量數據進行分析，將它們加以匯總和理解並消化，以求最大化地開發數據的功能，發揮數據的作用。數據分析是為了提取有用信息和形成結論而對數據加以詳細研究和概括總結的過程。
大數據分析的優點：能夠准備得出可靠信息，有助於企業發展，已經找到自己的方向；
缺點：信息透明化，大數據比你更了解你自己。
大數據優點：
(1)及時解析故障、問題和缺陷的根源，每年可能為企業節省數十億美元。
(2)為成千上萬的快遞車輛規劃實時交通路線，躲避擁堵。

(3)分析所有SKU，以利潤最大化為目標來定價和清理庫存。

(4)根據客戶的購買習慣，為其推送他可能感興趣的優惠信息。
(5)從大量客戶中快速識別出金牌客戶。
(6)使用點擊流分析和數據挖掘來規避欺詐行為。
大數據的缺陷：
當前，大部分中國企業在數據基礎系統架構和數據分析方面都面臨著諸多挑戰。根據產業信息網調查，目前國內大部分企業的系統架構在應對大量數據時均有擴展性差、資源利用率低、應用部署復雜、運營成本高和高能耗等缺陷。

『肆』 信用卡大數據指的是什麼

其實它就是一種面向貸款機構的第三方徵信查詢系統，它利用大數據的技術手段將各類網貸平台的貸款記錄整合在了一起。在借款用戶提交申請時，如果顯示該，如果用戶的網貸大數據顯示的信用記錄太差，會影響到借款的申請。信用卡里的大數據是由成千上萬的互聯網數據組成，也得到了廣泛的應用，現在也有很多銀行都會利用大數據而作為他們審批貸款和信用卡時的風控參考，則大數據可以檢測到個人近期的用卡和用貸情況，互聯網消費金融，以及線上線下分期情況，從而來綜合評估個人信用狀況，通常來說個人的風險指數偏高，就說明此人信用不佳，還款能力不足，處於風險控制考慮，銀行自然就會拒絕你的信用卡和貸款申請。通過卡詳查獲取一份信用卡風險報告，裡面會提供你的信用卡消費行為分析和信用卡交易行為分析來解析你的信用卡使用情況，幫助持卡人更好的了解用卡信用卡。

『伍』 大數據科學家需要掌握的幾種異常值檢測方法

引言

異常值檢測與告警一直是工業界非常關注的問題，自動准確地檢測出系統的異常值，不僅可以節約大量的人力物力，還能盡早發現系統的異常情況，挽回不必要的損失。個推也非常重視大數據中的異常值檢測，例如在運維部門的流量管理業務中，個推很早便展開了對異常值檢測的實踐，也因此積累了較為豐富的經驗。本文將從以下幾個方面介紹異常值檢測。

1、異常值檢測研究背景

2、異常值檢測方法原理

3、異常值檢測應用實踐

異常值檢測研究背景

異常值，故名思議就是不同於正常值的值。 在數學上，可以用離群點來表述，這樣便可以將異常值檢測問題轉化為數學問題來求解。

異常值檢測在很多場景都有廣泛的應用，比如：

1、流量監測

互聯網上某些伺服器的訪問量，可能具有周期性或趨勢性：一般情況下都是相對平穩的，但是當受到某些黑客攻擊後，其訪問量可能發生顯著的變化，及早發現這些異常變化對企業而言有著很好的預防告警作用。

2、金融風控

正常賬戶中，用戶的轉賬行為一般屬於低頻事件，但在某些金融詐騙案中，一些嫌犯的賬戶就可能會出現高頻的轉賬行為，異常檢測系統如果能發現這些異常行為，及時採取相關措施，則會規避不少損失。

3、機器故障檢測

一個運行中的流水線，可能會裝有不同的感測器用來監測運行中的機器，這些感測器數據就反應了機器運行的狀態，這些實時的監測數據具有數據量大、維度廣的特點，用人工盯著看的話成本會非常高，高效的自動異常檢測演算法將能很好地解決這一問題。

異常值檢測方法原理

本文主要將異常值檢測方法分為兩大類：一類是基於統計的異常值檢測，另一類是基於模型的異常值檢測。

基於統計的方法  

基於模型的方法

1、基於統計的異常值檢測方法

常見的基於統計的異常值檢測方法有以下2種，一種是基於3σ法則，一種是基於箱體圖。

3σ法則  

箱體圖

3σ法則是指在樣本服從正態分布時，一般可認為小於μ-3σ或者大於μ+3σ的樣本值為異常樣本，其中μ為樣本均值，σ為樣本標准差。在實際使用中，我們雖然不知道樣本的真實分布，但只要真實分布與正太分布相差不是太大，該經驗法則在大部分情況下便是適用的。

箱體圖也是一種比較常見的異常值檢測方法，一般取所有樣本的25%分位點Q1和75%分位點Q3，兩者之間的距離為箱體的長度IQR，可認為小於Q1-1.5IQR或者大於Q3+1.5IQR的樣本值為異常樣本。

基於統計的異常檢測往往具有計算簡單、有堅實的統計學基礎等特點，但缺點也非常明顯，例如需要大量的樣本數據進行統計，難以對高維樣本數據進行異常值檢測等。

2、基於模型的異常值檢測

通常可將異常值檢測看作是一個二分類問題，即將所有樣本分為正常樣本和異常樣本，但這和常規的二分類問題又有所區別，常規的二分類一般要求正負樣本是均衡的，如果正負樣本不均勻的話，訓練結果往往會不太好。但在異常值檢測問題中，往往面臨著正（正常值）負（異常值）樣本不均勻的問題，異常值通常比正常值要少得多，因此需要對常規的二分類模型做一些改進。

基於模型的異常值檢測一般可分為有監督模型異常值檢測和無監督模型異常值檢測，比較典型的有監督模型如oneclassSVM、基於神經網路的自編碼器等。 oneclassSVM就是在經典的SVM基礎上改進而來，它用一個超球面替代了超平面，超球面以內的值為正常值，超球面以外的值為異常值。

經典的SVM  

1

 基於模型的方法

2

基於神經網路的自編碼器結構如下圖所示。

自編碼器（AE）

將正常樣本用於模型訓練，輸入與輸出之間的損失函數可採用常見的均方誤差，因此檢測過程中，當正常樣本輸入時，均方誤差會較小，當異常樣本輸入時，均方誤差會較大，設置合適的閾值便可將異常樣本檢測出來。但該方法也有缺點，就是對於訓練樣本比較相近的正常樣本判別較好，但若正常樣本與訓練樣本相差較大，則可能會導致模型誤判。

無監督模型的異常值檢測是異常值檢測中的主流方法，因為異常值的標注成本往往較高，另外異常值的產生往往無法預料，因此有些異常值可能在過去的樣本中根本沒有出現過， 這將導致某些異常樣本無法標注，這也是有監督模型的局限性所在。 較為常見的無監督異常值檢測模型有密度聚類（DBSCAN）、IsolationForest（IF）、RadomCutForest（RCF）等，其中DBSCAN是一種典型的無監督聚類方法，對某些類型的異常值檢測也能起到不錯的效果。該演算法原理網上資料較多，本文不作詳細介紹。

IF演算法最早由南京大學人工智慧學院院長周志華的團隊提出，是一種非常高效的異常值檢測方法，該方法不需要對樣本數據做任何先驗的假設，只需基於這樣一個事實——異常值只是少數，並且它們具有與正常值非常不同的屬性值。與隨機森林由大量決策樹組成一樣，IsolationForest也由大量的樹組成。IsolationForest中的樹叫isolation tree，簡稱iTree。iTree樹和決策樹不太一樣，其構建過程也比決策樹簡單，因為其中就是一個完全隨機的過程。

假設數據集有N條數據，構建一顆iTree時，從N條數據中均勻抽樣(一般是無放回抽樣)出n個樣本出來，作為這顆樹的訓練樣本。

在樣本中，隨機選一個特徵，並在這個特徵的所有值范圍內（最小值與最大值之間）隨機選一個值，對樣本進行二叉劃分，將樣本中小於該值的劃分到節點的左邊，大於等於該值的劃分到節點的右邊。

這樣得到了一個分裂條件和左、右兩邊的數據集，然後分別在左右兩邊的數據集上重復上面的過程，直至達到終止條件。 終止條件有兩個，一個是數據本身不可再分(只包括一個樣本，或者全部樣本相同)，另外一個是樹的高度達到log2(n)。 不同於決策樹，iTree在演算法裡面已經限制了樹的高度。不限制雖然也可行，但出於效率考慮，演算法一般要求高度達到log2(n)深度即可。

把所有的iTree樹構建好了，就可以對測試數據進行預測了。預測的過程就是把測試數據在iTree樹上沿對應的條件分支往下走，直到達到葉子節點，並記錄這過程中經過的路徑長度h(x)，即從根節點，穿過中間的節點，最後到達葉子節點，所走過的邊的數量(path length)。最後，將h(x)帶入公式，其中E(.)表示計算期望，c(n)表示當樣本數量為n時，路徑長度的平均值，從而便可計算出每條待測數據的異常分數s(Anomaly Score)。異常分數s具有如下性質：

1）如果分數s越接近1，則該樣本是異常值的可能性越高；

2）如果分數s越接近0，則該樣本是正常值的可能性越高；

RCF演算法與IF演算法思想上是比較類似的，前者可以看成是在IF演算法上做了一些改進。針對IF演算法中沒有考慮到的時間序列因素，RCF演算法考慮了該因素，並且在數據樣本采樣策略上作出了一些改進，使得異常值檢測相對IF演算法變得更加准確和高效，並能更好地應用於流式數據檢測。

IF演算法

RCF演算法

上圖展示了IF演算法和RCF演算法對於異常值檢測的異同。我們可以看出原始數據中有兩個突變異常數據值，對於後一個較大的突變異常值，IF演算法和RCF演算法都檢測了出來，但對於前一個較小的突變異常值，IF演算法沒有檢測出來，而RCF演算法依然檢測了出來，這意味著RCF有更好的異常值檢測性能。

異常值檢測應用實踐

理論還需結合實踐，下面我們將以某應用從2016.08.16至2019.09.21的日活變化情況為例，對異常值檢測的實際應用場景予以介紹：

從上圖中可以看出該應用的日活存在著一些顯著的異常值（比如紅色圓圈部分），這些異常值可能由於活動促銷或者更新迭代出現bug導致日活出現了比較明顯的波動。下面分別用基於統計的方法和基於模型的方法對該日活序列數據進行異常值檢測。

基於3σ法則（基於統計）

RCF演算法（基於模型）

從圖中可以看出，對於較大的突變異常值，3σ法則和RCF演算法都能較好地檢測出來， 但對於較小的突變異常值，RCF演算法則要表現得更好。

總結

上文為大家講解了異常值檢測的方法原理以及應用實踐。綜合來看，異常值檢測演算法多種多樣 ，每一種都有自己的優缺點和適用范圍，很難直接判斷哪一種異常檢測演算法是最佳的， 具體在實戰中，我們需要根據自身業務的特點，比如對計算量的要求、對異常值的容忍度等，選擇合適的異常值檢測演算法。

接下來，個推也會結合自身實踐，在大數據異常檢測方面不斷深耕，繼續優化演算法模型在不同業務場景中的性能，持續為開發者們分享前沿的理念與最新的實踐方案。

『陸』 大數據的定義是什麼

大數據首先是一個非常大的數據集，可以達到TB(萬億位元組)甚至ZB(十萬億億位元組)。這裡面的數據可能既有結構化的數據，也有半結構化和非結構化的數據，而且來自於不同的數據源。

結構化的數據是什麼呢？對於接觸過關系型資料庫的小夥伴來說，應該一點都不陌生。對了，就是我們關系型資料庫中的一張表，每行都具有相同的屬性。如下面的一張表：

（子標簽的次序和個數不一定完全一致）

那什麼又是非結構化數據呢?這類數據沒有預定義完整的數據結構，在我們日常工作生活中可能更多接觸的就是這類數據，比如，圖片、圖像、音頻、視頻、辦公文檔等等。

知道了這三類結構的數據，我們再來看看大數據的數據源有哪些呢?歸納起來大致有五種數據源。

一是社交媒體平台。如有名氣的Facebook、Twitter、YouTube和Instagram等。媒體是比較受歡迎的大數據來源之一，因為它提供了關於消費者偏好和變化趨勢的寶貴依據。並且因為媒體是自我傳播的，可以跨越物理和人口障礙，因此它是企業深入了解目標受眾、得出模式和結論、增強決策能力的方式。

二是雲平台。公有的、私有的和第三方的雲平台。如今，越來越多的企業將數據轉移到雲上，超越了傳統的數據源。雲存儲支持結構化和非結構化數據，並為業務提供實時信息和隨需應變的依據。雲計算的主要特性是靈活性和可伸縮性。由於大數據可以通過網路和伺服器在公共或私有雲上存儲和獲取，因此雲是一種高效、經濟的數據源。

三是Web資源。公共網路構成了廣泛且易於訪問的大數據，個人和公司都可以從網上或「互聯網」上獲得數據。此外，國內的大型購物網站，淘寶、京東、阿里巴巴，更是雲集了海量的用戶數據。

四是IoT(Internet of Things)物聯網數據源。物聯網目前正處於迅猛發展勢頭。有了物聯網，我們不僅可以從電腦和智能手機獲取數據，還可以從醫療設備、車輛流程、視頻游戲、儀表、相機、家用電器等方面獲取數據。這些都構成了大數據寶貴的數據來源。

五是來自於資料庫的數據源。現今的企業都喜歡融合使用傳統和現代資料庫來獲取相關的大數據。這些數據都是企業驅動業務利潤的寶貴資源。常見的資料庫有MS Access、DB2、Oracle、MySQL以及大數據的資料庫Hbase、MongoDB等。

我們再來總結一下，什麼樣的數據就屬於大數據呢？通常來大數據有4個特點，這就是業內人士常說的4V，volume容量、 variety多樣性、velocity速度和veracity准確性。

『柒』 大數據核酸是什麼意思

大數據核酸是當地醫院自動推送核酸檢測信息的意思。根據相關公開資料查詢了解到，中高風險區域駐留人員，大數據會主動彈窗，向社區報備並經基層排查。大數據指的是所涉及的資料量規模巨大到無法透過主流軟體工具，在合理時間內達到擷取、管理、處理、並整理成為幫助企業經營決策更積極目的的資訊。

『捌』 大數據輿情監測主要是監測什麼

大數據輿情監測主要是監測是做好網路輿情監控要及時掌握輿論導向，並對輿論導向進行及時的分析。

從傳統的社會學理論上講，輿情本身是民意理論中的一個概念，它是民意的一種綜合反映。但是，從現代輿情理論的嚴格意義上講，輿情本身並不是對民意規律的簡單概括，而是對「民意及其作用於執政者及其政治取向規律」的一種描述。

輿情監控做的好的公司是上海蜜度，上海蜜度的新浪輿情通已經為7000+政企機構提供著包含信息監測、全網事件分析、微博事件分析、競品分析、定製簡報、大屏指揮系統等在內的全方位輿情服務，幫助政企機構對社會熱點話題、突發事件的快速發現、及時處置和正面引導。 新浪輿情通基於互聯網信息採集、文本挖掘和智能檢索，及時發現並快速收集所需的網路輿情信息。並通過自動採集、自動分類、智能過濾、自動聚類、主題監測和統計分析，實現社會熱點話題、突發事件、重大情報的快速識別和定向追蹤。集監測、預警、分析、報告於一體。

『玖』 什麼是大數據測試

測試大數據應用程序更多的是驗證其數據處理，而不是測試軟體產品的個別功能。當涉及到大數據測試時，性能和功能測試是關鍵。在大數據測試中，QA工程師使用集群和其他組件來驗證對TB級數據的成功處理。因為處理非常快，所以它需要高水平的測試技能。
大數據應用程序的測試更多的是去驗證其數據處理而不是驗證其單一的功能特色。當然在大數據測試時，功能測試和性能測試是同樣很關鍵的。對於大數據測試工程師而言，如何高效正確的驗證經過大數據工具/框架成功處理過的至少百萬兆位元組的數據將會是一個巨大的挑戰。因為大數據高效的處理測試速度，它要求測軟體工程師具備高水平的測試技術才能應對大數據測試。