Azure AI Fundamentals（AI-901） 無料問題 1 / 10 ・ 分野1: AI の概念と機能を特定する
コンピューター ビジョンで物体を見分けて、つかんだり動かしたりするロボットを作る。意図しない危害や損傷を避ける方法として、責任ある AI のユニットが例に挙げるものはどれか。
- 物体の識別の確信度を確率の値で求め、しきい値を下回るときは、動作を止めて操作者に確認を求め、確認が取れたら物体を扱う
- 物体の識別の確信度を確率の値で求め、しきい値を下回るときは、つかむ・動かすといった、その物体と関わる動作をしない
- 物体の識別の確信度を確率の値で求め、しきい値を下回るときは、動作を低速のモードに切り替え、物体に近づきながら識別し直す
- 物体の識別の確信度を確率の値で求め、しきい値を下回るときは、同じ物体を別の角度から撮り直し、確信度が上がってから物体を扱う
正解と解説を見る
正解: B
正解の理由
ユニット「Responsible AI」の例の節は、コンピューター ビジョンで物体を検出する AI 搭載のロボットは意図しない危害や損傷を避けるべきだとし、その方法の1つとして、物理的な物体と関わる前に確率の値で識別の「確信度」を求め、確信度が決めたしきい値を下回るときは動作を避けることを挙げる。信頼性と安全性（Reliability and safety）の原則の説明は、AI は確率に基づくモデルで誤りがありえないものではなく、AI を使うアプリはこれを考慮してリスクを減らす必要がある、というもので、この例はその具体の形である。
違う選択肢
「物体の識別の確信度を確率の値で求め、しきい値を下回るときは、動作を止めて操作者に確認を求め、確認が取れたら物体を扱う」… 操作者に確認を求める手順はユニットの例に無い。例の手当ては、確信度がしきい値に届かないときは物体と関わる動作を避けることで、確認を経て物体を扱う流れは書かれていない。
「物体の識別の確信度を確率の値で求め、しきい値を下回るときは、同じ物体を別の角度から撮り直し、確信度が上がってから物体を扱う」… 撮り直して確信度を上げる手順はユニットの例に無い。例は、確信度がしきい値に届かないときにどうするかを「動作を避ける」と書いている。
「物体の識別の確信度を確率の値で求め、しきい値を下回るときは、動作を低速のモードに切り替え、物体に近づきながら識別し直す」… 低速であっても物体に近づいて動けば、識別が不確かなまま物体と関わる動作に入ることになる。ユニットの例は、確信度がしきい値を下回るときは動作そのものを避けるとしている。
押さえどころ
信頼性と安全性の考慮は「AI の出力は確率で、外れることがある」という前提から始まる。そのため、出力の確信度を見て、確信が足りないときは行動しないという設計が手当てになる。例は、確信が足りない場面で何をするかを、別の手順を足すのではなく「動かない」側に決めている。