AWS Certified AI Practitioner 無料問題 6 / 10 ・ 分野3: 基盤モデルの応用
社内規程が毎月改定される。社員の質問に、最新の規程に基づいて答える生成 AI アプリを作りたい。AWS のページの説明に合う作り方はどれか。
- ナレッジベースで規程を検索し、取り出した内容をプロンプトに加える
- 社内規程で毎月モデルをファインチューニングし、最新の規程を重みに反映する
- 温度を下げ、モデルが持つ知識の中から確からしい答えを選ばせる
- 規程の全文を毎回プロンプトの先頭に貼り、プロンプトキャッシュで費用を抑える
正解と解説を見る
正解: A
正解の理由
Amazon Bedrock ナレッジベースは、データストアから情報を取り出して大規模言語モデルの応答を補う手法である検索拡張生成（RAG）を使うための機能である。ページは、ナレッジベースがパイプラインを作る重い作業を抽象化してすぐ使える RAG を提供し、私的なデータを使うためにモデルを学習し続ける必要をなくして費用対効果を高めると書いている。規程が改定されたらデータソースを同期すれば、新しい規程が検索の対象になる。
違う選択肢
「社内規程で毎月モデルをファインチューニングし、最新の規程を重みに反映する」… ページは、ナレッジベースを加えると、私的なデータを使うためにモデルを学習し続ける必要がなくなり、費用対効果が上がると書いている。毎月の再学習は、ナレッジベースが省く手間そのものである。
「温度を下げ、モデルが持つ知識の中から確からしい答えを選ばせる」… 基盤モデルは多くの場合オフラインで学習されるため、学習の後に作られたデータを知らない。温度を変えても、モデルの外にある最新の規程は答えに入らない。
「規程の全文を毎回プロンプトの先頭に貼り、プロンプトキャッシュで費用を抑える」… 取り出す文書は、役に立つ文脈を含むだけの大きさがあり、かつプロンプトの最大シーケンス長に収まる小ささであるべき、と RAG のページは書いている。全文を毎回貼る方法は長さの上限に当たるうえ、関連する部分を選んで渡す RAG の利点も失う。
押さえどころ
RAG が向くのは、モデルの学習の後に生まれるデータや、社内の私的なデータに基づいて答える用途である。ナレッジベースは、引用を応答に含めて出典を確かめられるようにすることもできる。データソースを変えたら同期して、追加・変更・削除を取り込む必要がある。