16種常用的資料分析方法彙總 - ITW01
文章推薦指數: 80 %
主要方法包括:卡方檢驗、秩和檢驗、二項檢驗、遊程檢驗、K-量檢驗等。
三、信度分析. 檢査測量的可信度,例如 ...
ITW01
數碼
技術
安全
科技
設計
加米穀大資料
2018-03-1410:00:48
頻道:技術
文章摘要:1)U驗使用條件:當樣本含量n較大時,樣本值符合正態分佈2)T檢驗使用條件:當樣本含量n較小時,樣本值符合正態分佈A單樣本t檢驗:推斷該樣本來自的總體均數μ與已知的某一總體均數μ0有無差別;B配對樣本t檢驗:當總體均數未知時,且兩個樣本可以配對,同對中的兩者在可能會影響
技術.
16種常用的資料分析方法彙總
科技.
精選--庫存量過高?學學這倉儲運作中的資料分析方法
科技.
瑞金麟集團洪斌:Data-Lake-KO-傳統資料分析理念
經常會有朋友問到一個朋友,資料分析常用的分析方法有哪些,我需要學習哪個等等之類的問題,今天加米穀大資料精選給大家整理了十六種常用的資料分析方法,供大家參考學習。
一、描述統計
描述性統計是指運用製表和分類,圖形以及計筠概括性資料來描述資料的集中趨勢、離散趨勢、偏度、峰度。
1、缺失值填充:常用方法:剔除法、均值法、最小鄰居法、比率迴歸法、決策樹法。
2、正態性檢驗:很多統計方法都要求數值服從或近似服從正態分佈,所以之前需要進行正態性檢驗。
常用方法:非引數檢驗的K-量檢驗、P-P圖、Q-Q圖、W檢驗、動差法。
二、假設檢驗
1、引數檢驗
引數檢驗是在已知總體分佈的條件下(一股要求總體服從正態分佈)對一些主要的引數(如均值、百分數、方差、相關係數等)進行的檢驗。
1)U驗使用條件:當樣本含量n較大時,樣本值符合正態分佈
2)T檢驗使用條件:當樣本含量n較小時,樣本值符合正態分佈
A單樣本t檢驗:推斷該樣本來自的總體均數μ與已知的某一總體均數μ0(常為理論值或標準值)有無差別;
B配對樣本t檢驗:當總體均數未知時,且兩個樣本可以配對,同對中的兩者在可能會影響處理效果的各種條件方面扱為相似;
C兩獨立樣本t檢驗:無法找到在各方面極為相似的兩樣本作配對比較時使用。
2、非引數檢驗
非引數檢驗則不考慮總體分佈是否已知,常常也不是針對總體引數,而是針對總體的某些一股性假設(如總體分佈的位罝是否相同,總體分佈是否正態)進行檢驗。
適用情況:順序型別的數據資料,這類資料的分佈形態一般是未知的。
A雖然是連續資料,但總體分佈形態未知或者非正態;
B體分佈雖然正態,資料也是連續型別,但樣本容量極小,如10以下;
主要方法包括:卡方檢驗、秩和檢驗、二項檢驗、遊程檢驗、K-量檢驗等。
三、信度分析
檢査測量的可信度,例如調查問卷的真實性。
分類:
1、外在信度:不同時間測量時量表的一致性程度,常用方法重測信度
2、內在信度;每個量表是否測量到單一的概念,同時組成兩表的內在體項一致性如何,常用方法分半信度。
四、列聯表分析
用於分析離散變數或定型變數之間是否存在相關。
對於二維表,可進行卡方檢驗,對於三維表,可作Mentel-Hanszel分層分析。
列聯表分析還包括配對計數資料的卡方檢驗、行列均為順序變數的相關檢驗。
五、相關分析
研究現象之間是否存在某種依存關係,對具體有依存關係的現象探討相關方向及相關程度。
1、單相關:兩個因素之間的相關關係叫單相關,即研究時只涉及一個自變數和一個因變數;
2、複相關:三個或三個以上因素的相關關係叫複相關,即研究時涉及兩個或兩個以上的自變數和因變數相關;
3、偏相關:在某一現象與多種現象相關的場合,當假定其他變數不變時,其中兩個變數之間的相關關係稱為偏相關。
六、方差分析
使用條件:各樣本須是相互獨立的隨機樣本;各樣本來自正態分佈總體;各總體方差相等。
分類
1、單因素方差分析:一項試驗只有一個影響因素,或者存在多個影響因素時,只分析一個因素與響應變數的關係
2、多因素有互動方差分析:一頊實驗有多個影響因素,分析多個影響因素與響應變數的關係,同時考慮多個影響因素之間的關係
3、多因素無互動方差分析:分析多個影響因素與響應變數的關係,但是影響因素之間沒有影響關係或忽略影響關係
4、協方差分祈:傳統的方差分析存在明顯的弊端,無法控制分析中存在的某些隨機因素,使之影響了分祈結果的準確度。
協方差分析主要是在排除了協變數的影響後再對修正後的主效應進行方差分析,是將線性迴歸與方差分析結合起來的一種分析方法,
七、迴歸分析
分類:
1、一元線性迴歸分析:只有一個自變數X與因變數Y有關,X與Y都必須是連續型變數,因變數y或其殘差必須服從正態分佈。
2、多元線性迴歸分析
使用條件:分析多個自變數與因變數Y的關係,X與Y都必須是連續型變數,因變數y或其殘差必須服從正態分佈。
1)變呈篩選方式:選擇最優迴歸方程的變裡篩選法包括全橫型法(CP法)、逐步迴歸法,向前引入法和向後剔除法
2)橫型診斷方法:
A殘差檢驗:觀測值與估計值的差值要艱從正態分佈
B強影響點判斷:尋找方式一般分為標準誤差法、Mahalanobis距離法
C共線性診斷:
診斷方式:容忍度、方差擴大因子法(又稱膨脹係數VIF)、特徵根判定法、條件指標CI、方差比例
處理方法:增加樣本容量或選取另外的迴歸如主成分迴歸、嶺迴歸等
3、Logistic迴歸分析
線性迴歸模型要求因變數是連續的正態分佈變裡,且自變數和因變數呈線性關係,而Logistic迴歸模型對因變數的分佈沒有要求,一般用於因變數是離散時的情況
分類:
Logistic迴歸模型有條件與非條件之分,條件Logistic迴歸模型和非條件Logistic迴歸模型的區別在於引數的估計是否用到了條件概率。
4、其他迴歸方法非線性迴歸、有序迴歸、Probit迴歸、加權迴歸等
八、聚類分析
樣本個體或指標變數按其具有的特性進行分類,尋找合理的度量事物相似性的統計量。
1、性質分類:
Q型聚類分析:對樣本進行分類處理,又稱樣本聚類分祈使用距離係數作為統計量衡量相似度,如歐式距離、極端距離、絕對距離等
R型聚類分析:對指標進行分類處理,又稱指標聚類分析使用相似係數作為統計量衡量相似度,相關係數、列聯絡數等
2、方法分類:
1)系統聚類法:適用於小樣本的樣本聚類或指標聚類,一般用系統聚類法來聚類指標,又稱分層聚類
2)逐步聚類法:適用於大樣本的樣本聚類
3)其他聚類法:兩步聚類、K均值聚類等
九、判別分析
1、判別分析:根據已掌握的一批分類明確的樣品建立判別函式,使產生錯判的事例最少,進而對給定的一個新樣品,判斷它來自哪個總體
2、與聚類分析區別
1)聚類分析可以對樣本逬行分類,也可以對指標進行分類;而判別分析只能對樣本
2)聚類分析事先不知道事物的類別,也不知道分幾類;而判別分析必須事先知道事物的類別,也知道分幾類
3)聚類分析不需要分類的歷史資料,而直接對樣本進行分類;而判別分析需要分類歷史資料去建立判別函式,然後才能對樣本進行分類
3、進行分類:
1)Fisher判別分析法:
以距離為判別準則來分類,即樣本與哪個類的距離最短就分到哪一類,適用於兩類判別;
以概率為判別準則來分類,即樣本屬於哪一類的概率最大就分到哪一類,適用於
適用於多類判別。
2)BAYES判別分析法:
BAYES判別分析法比FISHER判別分析法更加完善和先進,它不僅能解決多類判別分析,而且分析時考慮了資料的分佈狀態,所以一般較多使用;
十、主成分分析
將彼此梠關的一組指標變適轉化為彼此獨立的一組新的指標變數,並用其中較少的幾個新指標變數就能綜合反應原多個指標變數中所包含的主要資訊。
十一、因子分析
一種旨在尋找隱藏在多變數資料中、無法直接觀察到卻影響或支配可測變數的潛在因子、並估計潛在因子對可測變數的影響程度以及潛在因子之間的相關性的一種多元統計分析方法
與主成分分析比較:
相同:都能夠起到済理多個原始變數內在結構關係的作用
不同:主成分分析重在綜合原始變適的資訊.而因子分析重在解釋原始變數間的關係,是比主成分分析更深入的一種多元統計方法
用途:
1)減少分析變數個數
2)通過對變數間相關關係探測,將原始變數進行分類
十二、時間序列分析
動態數據處理的統計方法,研究隨機資料序列所遵從的統計規律,以用於解決實際問題;時間序列通常由4種要素組成:趨勢、季節變動、迴圈波動和不規則波動。
主要方法:移動平均濾波與指數平滑法、ARIMA橫型、量ARIMA橫型、ARIMAX模型、向呈自迴歸橫型、ARCH族模型
十三、生存分析
用來研究生存時間的分佈規律以及生存時間和相關因索之間關係的一種統計分析方法
1、包含內容:
1)描述生存過程,即研究生存時間的分佈規律
2)比較生存過程,即研究兩組或多組生存時間的分佈規律,並進行比較
3)分析危險因素,即研究危險因素對生存過程的影響
4)建立數學模型,即將生存時間與相關危險因素的依存關係用一個數學式子表示出來。
2、方法:
1)統計描述:包括求生存時間的分位數、中數生存期、平均數、生存函式的估計、判斷生存時間的圖示法,不對所分析的資料作出任何統計推斷結論
2)非引數檢驗:檢驗分組變數各水平所對應的生存曲線是否一致,對生存時間的分佈沒有要求,並且檢驗危險因素對生存時間的影響。
A乘積極限法(PL法)
B壽命表法(LT法)
3)半引數橫型迴歸分析:在特定的假設之下,建立生存時間隨多個危險因素變化的迴歸方程,這種方法的代表是Cox比例風險迴歸分析法
4)引數模型迴歸分析:已知生存時間服從特定的引數橫型時,擬合相應的引數模型,更準確地分析確定變數之間的變化規律
十四、典型相關分析
相關分析一般分析兩個變裡之間的關係,而典型相關分析是分析兩組變裡(如3個學術能力指標與5個在校成績表現指標)之間相關性的一種統計分析方法。
典型相關分析的基本思想和主成分分析的基本思想相似,它將一組變數與另一組變數之間單變數的多重線性相關性研究轉化為對少數幾對綜合變數之間的簡單線性相關性的研究,並且這少數幾對變數所包含的線性相關性的資訊幾乎覆蓋了原變數組所包含的全部相應資訊。
十五、R0C分析
R0C曲線是根據一系列不同的二分類方式(分界值或決定閾).以真陽性率(靈敏度)為縱座標,假陽性率(1-特異度)為橫座標繪製的曲線
用途:
1、R0C曲線能很容易地查出任意界限值時的對疾病的識別能力
用途;
2、選擇最佳的診斷界限值。
R0C曲線越靠近左上角,試驗的準確性就越高;
3、兩種或兩種以上不同診斷試驗對疾病識別能力的比較,一股用R0C曲線下面積反映診斷系統的準確性。
十六、其他分析方法
多重響應分析、距離分祈、專案分祈、對應分祈、決策樹分析、神經網路、系統方程、蒙特卡洛模擬等。
文章來源:今日头条
相關頻道:技術盤點大資料數學機器學習
分享到Facebook
相關文章
大資料分析方法最常用的四種方法供你參考【容大教育】
關於大資料分析方法的探討
根據變數型別選擇資料分析方法
十種常用的的資料分析思路,你都知道嗎?
17位老總和大腕推薦——《資料化管理:洞悉零售及電子商務運營》
【乾貨】24頁PPT幫你搞定工作中的資料分析
資料分析方法四種最常用的大資料分析方法【容大教育】
【資料分析】十種常用的的資料分析思路,你都知道嗎?
最熱門文章
最新文章
搜尋
延伸文章資訊
- 1數據分析Data Analysis 怎麼做?資料分析5 步驟
需要資料分析的場景,必然先有一個要解決的問題,例如客戶為什麼用戶在App使用後留不住,哪些廣告投放的渠道最有效等等。定義這些問題,你需要決定 ...
- 2資料分析的方法有哪些? - 劇多
接下來就分享常見的5種資料分析方法,分別是:公式法、對比法、象限法,二八法,漏斗法,常常多種結合一起使用。
- 3常用25種統計方法
分析方法的基本分類. 認識統計方法 ... (多變量)變異數分析. 偏最小平方迴歸. 類別變數. 連續變數. 有 ... 下,資料採此二種方法分析,所得結. 果近似。
- 4資料分析師必須掌握的6種方法論和8種思路!你知道幾個?
資料分析思路 · 1、趨勢分析最簡單、最常見的資料分析方法,一般用於核心指標的長期跟蹤,比如點擊率、GMV、活躍用戶數。 · 2、多維分解也就是透過不同的維度對於資料進行 ...
- 5常見的數據分析方法有哪些? - 每日頭條
數據分析方法論重點包括兩塊,一塊是統計分析方法論:描述統計、假設檢驗、相關分析、方差分析、回歸分析、聚類分析、判別分析、主成分與因子分析、時間 ...