StratifiedKFold和KFold(5折验证)交叉验证的联系和区别Python实例
生活随笔
收集整理的這篇文章主要介紹了
StratifiedKFold和KFold(5折验证)交叉验证的联系和区别Python实例
小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.
Kfold:
將全部訓(xùn)練集分成k個不相交的子集,假設(shè)訓(xùn)練集的訓(xùn)練樣例個數(shù)為m,那么每一個子集有m/k個訓(xùn)練樣例,比如[1,2,3,4,5,6]分成兩份,則第一份可能為[1,3,5],第二份[2,4,6]。
每次從分好的子集里面,拿出一個作為測試集,其他k-1個作為訓(xùn)練集
在k-1個訓(xùn)練集上訓(xùn)練出學(xué)習(xí)器模型,把這個模型用測試集來驗證,最后求得所有子集的分類率的平均值,作為該模型或者假設(shè)函數(shù)的真實分類率。
StratifiedKFold
StratifiedKFold用法類似Kfold,但是他是分層采樣,確保訓(xùn)練集的預(yù)測結(jié)果(0,1)都占有,測試集中各類別樣本的比例與原始數(shù)據(jù)集中相同。也就是正負(fù)例都含有。
例子:
import numpy as np from sklearn.model_selection import StratifiedKFold,KFold X=np.array([[1,2,3,4],[11,12,13,14],[21,22,23,24],[31,32,33,34],[41,42,43,44],[51,52,53,54],[61,62,63,64],[71,72,73,74] ])y=np.array([1,1,0,0,1,1,0,0]) #n_folds這個參數(shù)沒有,引入的包不同, floder = KFold(n_splits=4,random_state=0,shuffle=False) sfolder = StratifiedKFold(n_splits=4,random_state=0,shuffle=False)for train, test in sfolder.split(X,y):print('StratifiedKFold Train index: %s | test: %s' % (train, test))print('X[train]:',X[train])print('y[train]:',y[train])print('X[test]:',X[test])print('y[test]:',y[test])print(" ")for train, test in floder.split(X,y):print('KFold Train index: %s | test index : %s' % (train, test))print('X[train]:', X[train])print('y[train]:', y[train])print('X[test]:', X[test])print('y[test]:', y[test])print(" ")結(jié)果:
D:\ProgramFiles\Anaconda3\python.exe "D:/Python Project/Finance-Cup-Data-master/Data-Finance-Cup/luojiLearn/KfoldLearn.py" StratifiedKFold Train: [1 3 4 5 6 7] | test: [0 2] X[train]: [[11 12 13 14][31 32 33 34][41 42 43 44][51 52 53 54][61 62 63 64][71 72 73 74]] y[train]: [1 0 1 1 0 0] X[test]: [[ 1 2 3 4][21 22 23 24]] y[test]: [1 0]StratifiedKFold Train: [0 2 4 5 6 7] | test: [1 3] X[train]: [[ 1 2 3 4][21 22 23 24][41 42 43 44][51 52 53 54][61 62 63 64][71 72 73 74]] y[train]: [1 0 1 1 0 0] X[test]: [[11 12 13 14][31 32 33 34]] y[test]: [1 0]StratifiedKFold Train: [0 1 2 3 5 7] | test: [4 6] X[train]: [[ 1 2 3 4][11 12 13 14][21 22 23 24][31 32 33 34][51 52 53 54][71 72 73 74]] y[train]: [1 1 0 0 1 0] X[test]: [[41 42 43 44][61 62 63 64]] y[test]: [1 0]StratifiedKFold Train: [0 1 2 3 4 6] | test: [5 7] X[train]: [[ 1 2 3 4][11 12 13 14][21 22 23 24][31 32 33 34][41 42 43 44][61 62 63 64]] y[train]: [1 1 0 0 1 0] X[test]: [[51 52 53 54][71 72 73 74]] y[test]: [1 0]KFold Train: [2 3 4 5 6 7] | test: [0 1] X[train]: [[21 22 23 24][31 32 33 34][41 42 43 44][51 52 53 54][61 62 63 64][71 72 73 74]] y[train]: [0 0 1 1 0 0] X[test]: [[ 1 2 3 4][11 12 13 14]] y[test]: [1 1]KFold Train: [0 1 4 5 6 7] | test: [2 3] X[train]: [[ 1 2 3 4][11 12 13 14][41 42 43 44][51 52 53 54][61 62 63 64][71 72 73 74]] y[train]: [1 1 1 1 0 0] X[test]: [[21 22 23 24][31 32 33 34]] y[test]: [0 0]KFold Train: [0 1 2 3 6 7] | test: [4 5] X[train]: [[ 1 2 3 4][11 12 13 14][21 22 23 24][31 32 33 34][61 62 63 64][71 72 73 74]] y[train]: [1 1 0 0 0 0] X[test]: [[41 42 43 44][51 52 53 54]] y[test]: [1 1]KFold Train: [0 1 2 3 4 5] | test: [6 7] X[train]: [[ 1 2 3 4][11 12 13 14][21 22 23 24][31 32 33 34][41 42 43 44][51 52 53 54]] y[train]: [1 1 0 0 1 1] X[test]: [[61 62 63 64][71 72 73 74]] y[test]: [0 0]總結(jié)
以上是生活随笔為你收集整理的StratifiedKFold和KFold(5折验证)交叉验证的联系和区别Python实例的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 卷积神经网络(CNN)详解及Tensor
- 下一篇: python使用redis教程 敲黑板划