【機械学習】 scikit-learn で不正解データを抽出する方法【Python】

Python の scikit-learn ライブラリを使って機械学習でテストデータを識別（２クラス分類）をしたときに、正解・不正解データを抽出する方法について紹介します。

scikit-learn で正解率を出したいのであれば、混合行列（confusion matrix）を出力すれば良いのですが、これだと正解・不正解データの数しか出力されません。

これだと、不正解データ（正しく識別できなかったデータ）にはどのような傾向があるかなどの分析ができないため、正解・不正解データを抽出したいなぁと思って調べてみました。

classifier.predict について

scikit-learn の「classifier.predict」関数にテストデータを与えると、識別結果（学習した識別器が判断したラベルデータ）がリストで返ってきます。

今回は「classifier.fit」関数で学習データを用いて既に学習済みの場合を想定しています。

２クラス分類でラベル「same」「diff」の場合の結果が以下のようになります。

これが、与えた全てのテストデータの識別結果となります。

テストデータのうち、正解ラベルが same のものを抽出して識別した結果を抽出したい場合は、以下のようにします。

labels_test_data は、テストデータのラベル（正解ラベル「same」or「diff」が並んだもの）となります。

一方、テストデータのうち、正解ラベルが diff のものを抽出して識別した結果を抽出したい場合は、以下のようにします。

numpy.where を使う

whrere は Numpy ライブラリの関数で、条件を満たす要素の位置（インデックス）を返してくれます。

先ほど抽出した、正解ラベルが same のものと、diff のものを利用します。

例えば「正解ラベルが same のうち、識別結果が diff のもの」を不正解データと扱うことができます。

コードで書くと以下のようになります。

リストの要素の位置（インデックス）が返ってくることが分かります。

不正解データの抽出

以上を踏まえて、不正解データ（識別器が誤って識別してしまったデータ）の抽出を行います。

不正解データのパターンとしては、予測した結果のうち、

• 正解ラベルが same のうち、識別結果が diff と誤って判断してしまった（False Negative; FN）。
• 正解ラベルが diff のうち、識別結果が same と誤って判断してしまった（False Positive; FP）。

の２パターンが考えられます。

where で抽出した リストの要素の位置 を iloc で与えて行番号から抽出を行います。

iloc は、pandas で行番号・列番号を指定して抽出を行う関数です。

●False Negative; FN

df_2_class_test は元の（学習に使用した特徴量なども含めた）データです。

●False Positive; FP

正解データの抽出

正解データのパターンとしては、予測した結果のうち、

• 正解ラベルが same のうち、識別結果が same と正しく判断した（True Positive; TP）。
• 正解ラベルが diff のうち、識別結果が diff と正しく判断した（True Negative; TN）。

の２パターンが考えられます。

●True Positive; TP

●True Negative; TN

抽出結果

結果が以下のように出力され、それぞれに該当する行と列だけ抽出されていることが確認できます。