RAGとベクトルデータベース | AWS Certified AI Practitioner

1 / 11 ブロック9%

イントロ

RAGとベクトルデータベース

外部知識を検索し、根拠とともにモデルへ渡す

質問に関連する外部資料を検索し、その内容を文脈として基盤モデルへ渡して応答を生成する構成です。

定義

とは、関連する外部資料を検索し、その内容を基盤モデルへ渡して応答を生成する方式です。
言葉を分けると: 資料をし、をへ保存します。質問時はで関連部分を取得します。は取得と生成の統合を支援します。

手順

RAGの処理順序

1
信頼できる資料を収集し、意味のまとまりでチャンク化する。
2
チャンクの埋め込みをとして、出典情報と一緒に検索基盤へ保存する。
3
質問に近いチャンクを取得し、質問と一緒にへ渡す。
4
応答と引用が取得資料に支えられるか評価する。

要点

判断で押さえる境界

RAGは最新資料を参照しやすくしますが、を完全には消しません。保存候補には、、、があります。検索、権限、出典、生成を分けてします。

1
RAGは検索した外部知識を文脈へ追加
2
ベクトルストアは埋め込みと出典を管理
3
検索品質と生成品質を別々に評価

RAGとベクトルデータベースについて資料→チャンク・埋め込み、質問→類似検索、関連資料を取得、FMが根拠付き応答の関係を文字ラベルと矢印で示した図 — 資料登録と質問時検索が合流し、FMへ根拠を渡す流れです。検索失敗と生成失敗を別に追跡します。

例

場面: 毎週改定される社内旅費規程へ質問できるアプリを作ります。
順に考えると: 規程を版と部署権限付きでチャンク化し、埋め込みと原文URLを保存します。質問時に適用部署と日付で絞って類似検索し、取得文と出典をFMへ渡します。回答は引用箇所と版を表示し、該当根拠がなければ断定しない設計にします。
ここが結論: モデル再学習を待たず規程更新を反映し、回答根拠を追える構成になります。

注意

RAGは幻覚を完全には消さない

確認

AIF-C01 判断チェック

Q1

RAGでベクトル検索が担う役割はどれですか。

まとめ

まとめ

1
RAGは検索した外部知識で生成を補強
2
資料をチャンク化し埋め込みを保存
3
AWSには複数のベクトル保存候補がある
4
検索・権限・出典・生成を別々に評価する

次へ

次は「基盤モデルのカスタマイズ戦略」へ

基盤モデルの活用

基盤モデルのカスタマイズ戦略

基盤モデルのカスタマイズ戦略を、AIF-C01の公式objective 3.1.5に沿って、用語、判断順序、例、誤解修正で整理します。