机器学习(16)ROC曲线与AUC指标(癌症分类的模型检测--AUC指标)
生活随笔
收集整理的這篇文章主要介紹了
机器学习(16)ROC曲线与AUC指标(癌症分类的模型检测--AUC指标)
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
目錄
一、基礎理論
0、引言
1、TPR與FPR
1、TPR(召回率)
2、FPR
?2、ROC曲線
3、AUC指標
二、癌癥分類的模型檢測(AUC指標)
1、正反例轉1、0
2、計算AUC指標
總代碼
一、基礎理論
0、引言
在開始講解以前,先假設一種情況:
這種情況樣本不均衡(正樣本太多,沒法預測到正確的結果)。
要衡量樣本不均衡時的分類器效果,這時引入:ROC曲線和AUC指標。
1、TPR與FPR
1、TPR(召回率)
TPR = TP / (TP+FN) = 召回率
所有真實類別為1的樣本中,預測類別為1 比例。(召回率)
2、FPR
FPR = FP / (FP+TN)
所有真實類別為0的樣本中,預測類別為0的比例。
?2、ROC曲線
根據TPR和FPR的區別。
3、AUC指標
用AUC檢測模型好壞。
AUC越接近1,越完美;越接近0.5,效果越不好(近乎隨機猜測)。
只能用來評價二分類。
非常適合評價樣本不均衡分類的情況。
還是上面的那個例子,用AUC檢測模型效果:?
AUC=0.5,可以得出:模型效果很差(等于猜測)?
sklearn.metrics.roc_auc_score
二、癌癥分類的模型檢測(AUC指標)
1、正反例轉1、0
一開始是這樣的 :
由于需要正例、反例分別為1、0.,所以進行一次數據變換(1,0)
# 1、把正例和反例分別用1和0表示
targer_true = np.where(test_target==4, 1, 0)
# print(test_target)
2、計算AUC指標
# 2、計算AUC指標
auc = roc_auc_score(targer_true, predict)
print('AUC指標:', auc)
得出結論:模型效果接近1,說明模型還不錯。?
總代碼
# 邏輯回歸:癌癥分類
import pandas as pd
import numpy as np
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler
from sklearn.linear_model import LogisticRegression
from sklearn.metrics import classification_report, roc_auc_score# 1、讀取數據
column_name=['Sample code number','Clump Thickness','Uniformity of Cell Size','Uniformity of Cell Shape','Marginal Adhesion','Single Epithelial Cell Size','Bare Nuclei','Bland Chromatin','Normal Nucleoli','Mitoses','Class']pd.set_option('display.max_columns',1000) # 設置最大列數
pd.set_option('display.max_rows',1000) # 設置最大行數data=pd.read_csv('breast-cancer-wisconsin.data', names=column_name)
# print(data)# 2、缺失數據處理
data = data.replace(to_replace='?', value = np.nan)
data.dropna(inplace=True)# 3、劃分數據集
train = data.iloc[:, 1:-1]
target = data['Class']
train_data, test_data, train_target, test_target = train_test_split(train, target)
# print(train_data)# 4、標準化(對訓練集和測試集標準化)
transfer = StandardScaler()
train_data = transfer.fit_transform(train_data)
test_data = transfer.transform(test_data)
# print(train_data)# 5、創建邏輯回歸預估器,訓練
estimator = LogisticRegression()
estimator.fit(train_data, train_target)
# print(train_data)# 查看模型參數:回歸系數 和 偏置
print('回歸系數:', estimator.coef_)
print('偏置:', estimator.intercept_)# 6、模型評估
# 方法一:比對
predict = estimator.predict(test_data)
print(predict==test_target)
# 方法二:計算正確率
score = estimator.score(test_data, test_target)
print('邏輯回歸分類正確率為:', score)# 查看精確率、召回率、F1-score
report = classification_report(test_target, predict, target_names=['良性', '惡性'])
print(report)# 計算AUC指標
# 1、把正例和反例分別用1和0表示
targer_true = np.where(test_target==4, 1, 0)
# print(test_target)# 2、計算AUC指標
auc = roc_auc_score(targer_true, predict)
print('AUC指標:', auc)
總結
以上是生活随笔為你收集整理的机器学习(16)ROC曲线与AUC指标(癌症分类的模型检测--AUC指标)的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 机器学习(15)精确率召回率F1-sco
- 下一篇: 机器学习(17)无监督学习 -- K-m