AWS Certified AI Practitioner 無料問題 5 / 10 ・ 分野3: 基盤モデルの応用
社内 FAQ に答えるアプリで、同じ質問への答えの言い回しが毎回ぶれる。言い回しのぶれを減らし、答えをより決定的にしたい。ページの説明に合う調整はどれか。
- 温度を下げ、確率の高いトークンが選ばれやすくなるようにする
- 応答の長さの上限を下げ、出力がぶれる余地を小さくする
- Top K を大きくし、次のトークンの候補を広げて答えを安定させる
- ペナルティを強め、同じ語の繰り返しを抑えて答えを安定させる
正解と解説を見る
正解: A
正解の理由
温度は、次のトークンの確率分布の形に作用するパラメータである。ページは、低い値を選ぶと確率の高い出力が選ばれやすくなり、技術的には温度が低いほど関数が急になってより決定的な応答になる、と書いている。FAQ のように答えをそろえたい用途では温度を下げる。
違う選択肢
「ペナルティを強め、同じ語の繰り返しを抑えて答えを安定させる」… ペナルティは、応答の長さや繰り返されるトークン、トークンの頻度などに罰を与える度合いを指定するパラメータである。繰り返しは減っても、どの語が選ばれやすいかという確率分布の形は変わらない。
「Top K を大きくし、次のトークンの候補を広げて答えを安定させる」… Top K を大きくすると候補の数が増え、確率の低い出力も考慮されるようになる。候補を広げるのは多様性を増やす向きの調整である。
「応答の長さの上限を下げ、出力がぶれる余地を小さくする」… 応答の長さは、返すトークン数の最小・最大を決めるパラメータである。どの語が選ばれるかの確率分布には手を加えないので、言い回しのぶれは残る。
押さえどころ
ページの表では、温度を下げると確率の高いトークンが選ばれやすく、上げると確率の低いトークンが選ばれやすくなる。Top K と Top P は候補の範囲を絞る・広げるパラメータで、低い値で確率の低いトークンを外し、高い値で許す。既定値と範囲はモデルごとに違う。