AWS Certified AI Practitioner 無料問題 2 / 10 ・ 分野1: AI と ML の基礎
病気の検査のためのモデルを評価している。陽性の人を陰性と判定して見逃すことを、何より避けたい。SageMaker Autopilot の指標のページに照らして、重く見るべき指標はどれか。
- 適合率(Precision)
- 再現率(Recall)
- 二乗平均平方根誤差(RMSE)
- 正解率(Accuracy)
正解と解説を見る
正解: B
正解の理由
指標のページは、再現率を「実際の陽性のうち、正しく陽性と予測できた割合」と定義し、がんの検査では真の陽性をすべて見つけるために再現率が重要だと書いている。偽陰性(実際は陽性なのに陰性と予測したもの)を減らしたい、つまり見逃しを避けたい場面の指標である。ただし、すべてを陽性と予測すれば再現率は満点になるので、再現率だけで測るのは不十分だとも注意している。
違う選択肢
「適合率(Precision)」… 適合率は、陽性と予測したもののうち本当に陽性だった割合で、ページは偽陽性の代償が大きい場面(飛行機の安全システムを誤って安全と判定するなど)で重要だと書いている。見逃し(偽陰性)を避けたい設問とは向きが逆である。
「正解率(Accuracy)」… 正解率は、予測したクラスが実際とどれだけ一致するかの割合である。陽性が少ないデータでは、見逃しが多くても高く出ることがあり、見逃しを避けたいという目的を直接は測らない。ページは不均衡なデータには BalancedAccuracy のほうがよい尺度だと書いている。
「二乗平均平方根誤差(RMSE)」… RMSE は、予測値と実際の値の差を二乗して平均し平方根を取ったもので、回帰(数値の予測)の誤差の指標である。陽性・陰性の分類の見逃しを測るものではない。
押さえどころ
F1 スコアは適合率と再現率の調和平均で、2つを釣り合わせて見たいときに使う。試験ガイド 1.3.6 は、こうしたモデルの性能の指標と、ユーザーあたりのコストや ROI などの業務の指標を分けて説明できることを求めている。