[{"data":1,"prerenderedAt":225},["ShallowReactive",2],{"topic-page:\u002Fit\u002Faws\u002Faws-certified-ai-practitioner\u002Fai-security-compliance-governance\u002Fhallucination-detection-grounding-and-validation":3},{"topic":4,"category":183,"seo":187,"breadcrumbs":192,"prerequisites":202,"nextTopics":203,"relatedTopics":213},{"id":5,"slug":6,"title":7,"summary":8,"canonicalPath":9,"categoryPath":10,"difficulty":11,"targetAudience":12,"estimatedMinutes":13,"generatedAt":14,"publishedAt":14,"updatedAt":14,"reviewStatus":15,"tags":16,"expectedKnowledge":26,"learningGoal":29,"keyTerms":30,"blocks":95},"it-aws-aws-certified-ai-practitioner-ai-security-compliance-governance-hallucination-detection-grounding-and-validation","hallucination-detection-grounding-and-validation","幻覚検出・グラウンディング・出力検証","幻覚検出・グラウンディング・出力検証を、AIF-C01の公式objective 5.1.5に沿って、用語、判断順序、例、誤解修正で整理します。","\u002Fit\u002Faws\u002Faws-certified-ai-practitioner\u002Fai-security-compliance-governance\u002Fhallucination-detection-grounding-and-validation","\u002Fit\u002Faws\u002Faws-certified-ai-practitioner\u002Fai-security-compliance-governance","beginner","cert_candidate",6,"2026-08-06","ai_generated",[17,18,19,20,21,22,23,24,25],"AWS Certified AI Practitioner","AIF-C01","AIのセキュリティ・コンプライアンス・ガバナンス","幻覚","グラウンディング","RAG","出力検証","confidence score","出典",[27,28],"AWSクラウドの基本用語を聞いたことがある","AIを使う業務例を日常的な言葉で考えられる","幻覚検出・グラウンディング・出力検証について、試験で問われる違いと選択基準を説明し、短い業務例へ適用できる。",[31,35,38,45,50,55,59,67,73,77,81,85,91],{"id":32,"label":21,"shortDefinition":33,"role":34},"grounding","生成結果を、信頼できる資料・データ・ツール結果など検証可能な根拠へ結び付けることです。","primary",{"id":36,"label":20,"shortDefinition":37,"role":34},"hallucination","生成AIが、根拠のない内容をもっともらしく出力する現象です。",{"id":39,"label":40,"shortDefinition":41,"supplement":42,"role":34},"retrieval-augmented-generation","検索拡張生成（RAG）","関連情報を検索し、その結果を文脈に加えて回答を生成する方式です。",{"kind":43,"text":44},"misconception","検索結果が正しいか、回答の根拠確認は必要です。",{"id":46,"label":23,"shortDefinition":47,"supplement":48,"role":34},"output-validation","生成結果の形式・値・根拠・許可条件を確認し、利用可能か判定する処理です。",{"kind":43,"text":49},"フィルターを通過しても、内容の正しさが自動で保証されるわけではありません。",{"id":51,"label":24,"shortDefinition":52,"supplement":53,"role":34},"confidence-score","モデルや検証器が結果への確信度を数値で表した補助指標です。",{"kind":43,"text":54},"スコアの意味と校正は仕組みごとに異なり、正解確率とは限りません。",{"id":56,"label":57,"shortDefinition":58,"role":34},"claim-verification","主張検証","回答を個別の主張へ分け、各主張が根拠や確定データで支持されるか確認することです。",{"id":60,"label":61,"shortDefinition":62,"supplement":63,"role":66},"data-lineage","データリネージ","データの出所、取得、変換、保存、利用先を記録し、現在までの経路を追跡できる状態です。",{"kind":64,"text":65},"comparison","出典引用は利用者向けの根拠、リネージは組織内のデータ経路記録です。","contextual",{"id":68,"label":69,"shortDefinition":70,"supplement":71,"role":66},"source-citation","出典引用","回答の主張を、確認できる元資料や該当箇所へ結び付けて示すことです。",{"kind":43,"text":72},"URLがあるだけでは、その引用が主張を支えるとは限りません。",{"id":74,"label":75,"shortDefinition":76,"role":66},"data-quality","データ品質","データが目的に対して正確・完全・一貫し、適時で利用可能な程度です。",{"id":78,"label":79,"shortDefinition":80,"role":66},"evaluation","評価","定めたデータと基準で、モデルやアプリの品質・安全性・価値を測る活動です。",{"id":82,"label":83,"shortDefinition":84,"role":66},"uncertainty","不確実性","結果が事前に確定せず、予測や生成に幅や誤りが残る性質です。",{"id":86,"label":87,"shortDefinition":88,"supplement":89,"role":66},"human-oversight","人による監督","AIの判断や出力を人が確認し、必要に応じて介入・承認する統制です。",{"kind":43,"text":90},"確認者へ根拠・時間・権限がなければ機能しません。",{"id":92,"label":93,"shortDefinition":94,"role":66},"safe-stop","安全停止","不確実性や失敗を検知したとき、外部影響を広げず処理を止める制御です。",[96,101,112,121,130,136,142,148,164,173],{"id":97,"type":98,"title":7,"subtitle":99,"shortDefinition":100},"hero","HeroBlock","根拠へ結び、主張を検証し、不明なら断定しない","生成結果を、信頼できる資料、データ、ツール結果など検証可能な根拠へ結び付け、根拠外の生成を抑えることです。",{"id":102,"type":103,"term":21,"definition":104,"plainExplanation":105,"presentation":106,"supportLabel":107,"keywords":108},"definition","DefinitionBlock","[[cloze:grounding|グラウンディング]]とは、生成結果を信頼できる資料・データ・ツール結果など、検証可能な根拠へ結び付けることです。","[[term:retrieval-augmented-generation|検索拡張生成（RAG）]]で関連資料を渡し、[[term:hallucination|幻覚]]を抑えます。[[term:confidence-score|confidence score]]は補助指標であり、正しさの保証ではありません。","natural","言葉を分けると",[109,110,111],"検証可能な根拠","主張単位の照合","根拠不足時の保留",{"id":113,"type":114,"steps":115,"title":120},"decision-steps","StepBlock",[116,117,118,119],"[[term:source-citation|出典引用]]を[[term:data-lineage|データリネージ]]と[[term:data-quality|データ品質]]へ結び、使える根拠を限定する。","[[term:claim-verification|主張検証]]と[[term:output-validation|出力検証]]で、重要な主張を根拠箇所や確定データへ対応付ける。","定めたデータと基準で継続的に[[term:evaluation|評価]]し、引用の存在だけで合格にしない。","[[term:uncertainty|不確実性]]や矛盾があれば、[[term:human-oversight|人による監督]]へ返すか[[term:safe-stop|安全停止]]する。","根拠付き回答を検証する",{"id":122,"type":123,"title":124,"points":125,"body":129},"exam-cues","KeyPointBlock","判断で押さえる境界",[126,127,128],"グラウンディングは根拠へ結ぶ","引用と主張の対応を検証","根拠不足なら断定しない","『引用が付いている』だけで合格にしません。引用先が存在しても、回答の主張を支えていない場合があります。検出では、事実ごとのentailment、数値一致、出典の信頼性、適用日を確認します。生成しない判断や『資料から確認できない』という応答も、正確さを守る重要な結果です。",{"id":131,"type":132,"src":133,"alt":134,"caption":135},"diagram","DiagramBlock","\u002Fassets\u002Fit\u002Faws\u002Faws-certified-ai-practitioner\u002Fai-security-compliance-governance\u002Fhallucination-detection-grounding-and-validation\u002Fhallucination-detection-grounding-and-validation.svg","幻覚検出・グラウンディング・出力検証について質問、信頼資料を取得、回答・引用を生成、主張照合→回答\u002F保留の関係を文字ラベルと矢印で示した図","質問から資料取得、生成、主張ごとの照合へ進む流れです。根拠不足時には回答せず保留する分岐を含みます。",{"id":137,"type":138,"scenario":139,"explanation":140,"result":141},"worked-example","ExampleBlock","社内規程チャットが『海外出張は一律10万円まで』と回答しました。","回答を分解し、金額、対象者、地域、施行日を引用箇所と照合します。取得資料には地域別上限しかなく、一律という主張を支えていません。システムは回答を保留し、適用部署と出張先を追加確認して再検索します。引用URLがあるだけで出力を通しません。","もっともらしい過度な一般化を、主張単位の根拠照合で止められます。",{"id":43,"type":143,"warningTitle":144,"message":145,"severity":146,"action":147},"WarningBlock","confidence scoreは正解確率とは限らない","スコアの定義や校正はシステムごとに異なります。閾値だけで高影響回答を自動承認せず、根拠と実測性能を確認します。","warning","回答を検証可能な主張へ分け、各主張に根拠・版・適用条件を付けます。",{"id":149,"type":150,"title":151,"questions":152},"quiz","QuizBlock","AIF-C01 判断チェック",[153],{"question":154,"choices":155,"answerIndex":159,"choiceExplanations":160},"引用付き回答の適切な検証はどれですか。",[156,157,158],"各主張が引用箇所に実際に支えられるか確認する","URLが一つあれば内容を見ず承認する","高いconfidenceだけで法的回答を確定する",0,[161,162,163],"正解です。主張と根拠の対応を見ます。","引用の存在と内容の支持は別です。","スコアだけでは根拠と適用条件を保証しません。",{"id":165,"type":166,"title":167,"points":168},"summary","SummaryBlock","まとめ",[169,170,171,172],"グラウンディングは信頼根拠へ出力を結ぶ","RAG・検証・信頼度を組み合わせる","引用の存在でなく主張との対応を見る","根拠不足・矛盾時は保留できる設計にする",{"id":174,"type":175,"title":176,"nextTopics":177,"relatedKeywords":179},"next-action","NextActionBlock","次は「AIガバナンスのAWSサービス・データライフサイクル・手順」へ",[178],"it-aws-aws-certified-ai-practitioner-ai-security-compliance-governance-ai-governance-services-data-lifecycle-and-protocols",[180,181,182],"AIガバナンス","AWS Config","Amazon Inspector",{"path":10,"title":19,"description":184,"parentPath":185,"accentToken":186},"AIシステムのアクセス制御、データ保護、脅威対策、根拠付け、統制と監査をAIF-C01の範囲で整理します。","\u002Fit\u002Faws\u002Faws-certified-ai-practitioner","cloud-amber",{"title":188,"description":189,"canonicalUrl":190,"ogImage":191},"幻覚検出・グラウンディング・出力検証 | AWS Certified AI Practitioner","AIF-C01対策として幻覚検出・グラウンディング・出力検証の定義、判断軸、具体例、誤解しやすい境界を公式試験範囲に沿って学びます。","https:\u002F\u002Fzeqnilo.com\u002Fit\u002Faws\u002Faws-certified-ai-practitioner\u002Fai-security-compliance-governance\u002Fhallucination-detection-grounding-and-validation","https:\u002F\u002Fzeqnilo.com\u002Fassets\u002Fsite\u002Fdefault-og.svg",[193,196,199,200,201],{"title":194,"path":195},"IT","\u002Fit",{"title":197,"path":198},"AWS","\u002Fit\u002Faws",{"title":17,"path":185},{"title":19,"path":10},{"title":7,"path":9},[],[204],{"id":178,"title":205,"summary":206,"canonicalPath":207,"categoryPath":10,"categoryTitle":19,"difficulty":11,"targetAudience":12,"estimatedMinutes":13,"publishedAt":14,"updatedAt":14,"reviewStatus":15,"tags":208},"AIガバナンスのAWSサービス・データライフサイクル・手順","AIガバナンスのAWSサービス・データライフサイクル・手順を、AIF-C01の公式objective 5.2.1・5.2.2・5.2.3に沿って、用語、判断順序、例、誤解修正で整理します。","\u002Fit\u002Faws\u002Faws-certified-ai-practitioner\u002Fai-security-compliance-governance\u002Fai-governance-services-data-lifecycle-and-protocols",[17,18,19,180,181,182,209,210,211,212],"AWS Audit Manager","AWS Artifact","AWS CloudTrail","Trusted Advisor",[214],{"id":215,"title":216,"summary":217,"canonicalPath":218,"categoryPath":10,"categoryTitle":19,"difficulty":11,"targetAudience":12,"estimatedMinutes":13,"publishedAt":14,"updatedAt":14,"reviewStatus":15,"tags":219},"it-aws-aws-certified-ai-practitioner-ai-security-compliance-governance-ai-security-privacy-and-prompt-threats","AIのセキュリティ・プライバシーとプロンプト脅威","AIのセキュリティ・プライバシーとプロンプト脅威を、AIF-C01の公式objective 5.1.4に沿って、用語、判断順序、例、誤解修正で整理します。","\u002Fit\u002Faws\u002Faws-certified-ai-practitioner\u002Fai-security-compliance-governance\u002Fai-security-privacy-and-prompt-threats",[17,18,19,220,221,23,222,223,224],"プロンプトインジェクション","データ漏えい","暗号化","監査ログ","毒性",1787370539687]