ROC介紹

接受者操作特性曲線（receiver operating characteristic curve，簡稱ROC曲線），又稱為感受性曲線（sensitivity curve）。得此名的原因在于曲線上各點反映著相同的感受性，它們都是對同一信號刺激的反應，只不過是在幾種不同的判定標準下所得的結果而已。接受者操作特性曲線就是以虛驚概率為橫軸，擊中概率為縱軸所組成的坐標圖，和被試在特定刺激條件下由于采用不同的判斷標準得出的不同結果畫出的曲線

創(chuàng)新互聯(lián)建站10多年成都企業(yè)網(wǎng)站建設服務;為您提供網(wǎng)站建設,網(wǎng)站制作,網(wǎng)頁設計及高端網(wǎng)站定制服務,成都企業(yè)網(wǎng)站建設及推廣,對成都護欄打樁機等多個行業(yè)擁有豐富的營銷推廣經(jīng)驗的網(wǎng)站建設公司。

AUC介紹

AUC(Area Under Curve)是機器學習二分類模型中非常常用的評估指標，相比于F1-Score對項目的不平衡有更大的容忍性，目前常見的機器學習庫中(比如scikit-learn)一般也都是集成該指標的計算，但是有時候模型是單獨的或者自己編寫的，此時想要評估訓練模型的好壞就得自己搞一個AUC計算模塊，本文在查詢資料時發(fā)現(xiàn)libsvm-tools有一個非常通俗易懂的auc計算，因此摳出來用作日后之用。

AUC計算

AUC的計算分為下面三個步驟：

1、計算數(shù)據(jù)的準備，如果模型訓練時只有訓練集的話一般使用交叉驗證的方式來計算，如果有評估集(evaluate)一般就可以直接計算了，數(shù)據(jù)的格式一般就是需要預測得分以及其目標類別（注意是目標類別，不是預測得到的類別）
2、根據(jù)閾值劃分得到橫（X:False Positive Rate）以及縱（Y:True Positive Rate）點
3、將坐標點連成曲線之后計算其曲線下面積,就是AUC的值

直接上python代碼

#! -*- coding=utf-8 -*-import pylab as pl
from math import log,exp,sqrt
 
 
evaluate_result="you file path"db = [] #[score,nonclk,clk]pos, neg = 0, 0
with open(evaluate_result,'r') as fs: for line in fs:
 nonclk,clk,score = line.strip().split('\t')
 nonclk = int(nonclk)
 clk = int(clk)
 score = float(score)
 db.append([score,nonclk,clk])
 pos += clk
 neg += nonclk
  
  
 
db = sorted(db, key=lambda x:x[0], reverse=True)
 #計算ROC坐標點xy_arr = []tp, fp = 0., 0. 
for i in range(len(db)):
 tp += db[i][2]
 fp += db[i][1]
 xy_arr.append([fp/neg,tp/pos])
 #計算曲線下面積auc = 0. 
prev_x = 0for x,y in xy_arr: if x != prev_x:
 auc += (x - prev_x) * y
 prev_x = x
 
print "the auc is %s."%auc
 x = [_v[0] for _v in xy_arr]
y = [_v[1] for _v in xy_arr]
pl.title("ROC curve of %s (AUC = %.4f)" % ('svm',auc))
pl.xlabel("False Positive Rate")
pl.ylabel("True Positive Rate")
pl.plot(x, y)# use pylab to plot x and y
pl.show()# show the plot on the screen

其格式為:

nonclk \t clk \t score

其中：
1、nonclick:未點擊的數(shù)據(jù)，可以看做負樣本的數(shù)量
2、clk:點擊的數(shù)量，可以看做正樣本的數(shù)量
3、score:預測的分數(shù)，以該分數(shù)為group進行正負樣本的預統(tǒng)計可以減少AUC的計算量
運行的結果為:

如果本機沒安裝pylab可以直接注釋依賴以及畫圖部分
注意
上面貼的代碼:
1、只能計算二分類的結果（至于二分類的標簽隨便處理）
2、上面代碼中每個score都做了一次閾值，其實這樣效率是相當?shù)偷模梢詫颖具M行采樣或者在計算橫軸坐標時進行等分計