透明性・説明可能性とモデル関連ツール | AWS Certified AI Practitioner

1 / 11 ブロック9%

イントロ

透明性・説明可能性とモデル関連ツール

モデルの中身、判断理由、運用情報を別々に説明する

モデルの予測や生成が、どの入力・根拠・要因に影響されたかを、人が目的に応じて理解できる形で示す性質です。

定義

とは、モデル出力の要因や根拠を、人が理解できる形で示せる性質です。
見分けるポイント: は目的・データ・制約・版などの開示も扱います。単純モデルはが高い場合がありますが、との比較は用途ごとに行います。

手順

何を誰へ説明するか

1
利用者、監査者、開発者など説明の相手を決める。
2
目的・制約・データ・版などシステム情報を整理する。
3
個別出力の根拠、寄与要因、を用途に合う形で示す。
4
説明が誤解を招かないか、実際の判断と対応するかをする。

要点

判断で押さえる境界

一般のに加え、、、が記録や分析を支えます。もと対象条件を確認します。

1
透明性はシステム情報の開示
2
説明可能性は出力理由の理解
3
相手と判断目的に合う説明を設計

透明性・説明可能性とモデル関連ツールについてシステム：目的・版、データ：出所・範囲、出力：根拠・要因、利用者：判断・異議の関係を文字ラベルと矢印で示した図 — システム、データ、個別出力、利用者行動を層で分ける図です。説明を一つの数値や引用だけに縮めません。

例

場面: 融資担当者を補助する予測モデルの結果を、担当者と監査者へ説明します。
順に考えると: 担当者には主要な入力要因、不確実性、で覆せる条件を示します。監査者には対象業務、データ期間、群別評価、版、承認履歴を示します。利用者へはAIが補助であることと問い合わせ経路を伝えます。
ここが結論: 個別判断とシステム統制の説明を分け、必要な相手へ届けられます。

注意

説明らしい文章が忠実とは限らない

確認

AIF-C01 判断チェック

Q1

Model Cardが主に支える情報はどれですか。

まとめ

まとめ

1
透明性と説明可能性は関連するが同一ではない
2
説明相手と目的を先に決める
3
Model Cards等で目的・評価・制約を記録
4
引用・要因・説明文の忠実性を検証する

次へ

次は「安全性・透明性のトレードオフと人間中心設計」へ

安全性・透明性のトレードオフと人間中心設計

安全性・透明性のトレードオフと人間中心設計を、AIF-C01の公式objective 4.2.3・4.2.4に沿って、用語、判断順序、例、誤解修正で整理します。