安全性・透明性のトレードオフと人間中心設計 | AWS Certified AI Practitioner

1 / 11 ブロック9%

イントロ

安全性・透明性のトレードオフと人間中心設計

性能だけでなく、理解・行動・異議申立てまで設計する

説明を受ける人の知識、目的、時間、影響を考慮し、理解と適切な行動を支えるようAIの表示・操作・救済を設計する考え方です。

定義

とは、利用者の知識・目的・影響に合わせ、理解と適切な行動を支える説明を設計する考え方です。
言葉を分けると: で、、根拠、修正方法を相手に合わせます。とを改善と救済へつなぎます。

手順

説明と安全を両立する順序

1
利用者が説明後に行うべき判断や行動を定義する。
2
必要な根拠・・制約を、理解可能な粒度で示す。
3
秘密情報や攻撃に使える詳細を公開範囲から除く。
4
理解度、誤信頼、フィードバック利用、異議処理を実利用者でする。

要点

判断で押さえる境界

を高めても、攻撃に使える詳細はのため公開しません。との均衡を用途で決め、必要な説明を段階表示します。

1
公開範囲と安全性を両立
2
説明後の利用者行動を設計
3
異議・修正・人への移行を用意

安全性・透明性のトレードオフと人間中心設計について理解に必要な説明、不確実性・根拠、秘密・攻撃面の保護、人の選択・救済の関係を文字ラベルと矢印で示した図 — 説明の便益と、公開し過ぎによる安全リスクを均衡させる図です。中心には利用者の選択と救済を置きます。

例

場面: 不正検知システムが取引を保留した理由を顧客へ説明します。
順に考えると: 『AIが不正と判断した』だけで終わらず、顧客が確認できる一般的理由、誤判定の可能性、本人確認と異議申立ての方法を示します。検知閾値の詳細は公開せず、の審査へ進めるようにします。
ここが結論: 安全制御を守りながら、顧客が誤りを訂正できる説明になります。

注意

人を置くだけでは人間中心にならない

確認

AIF-C01 判断チェック

Q1

人間中心の説明として最も適切なのはどれですか。

まとめ

まとめ

1
透明性と安全性には公開範囲の均衡がある
2
性能と解釈可能性も用途で比較
3
説明は利用者の理解と行動を支える
4
フィードバック・異議・人への移行を設計する

次へ

次は「AWSのAIセキュリティ制御と責任共有」へ

AIのセキュリティ・コンプライアンス・ガバナンス

AWSのAIセキュリティ制御と責任共有

AWSのAIセキュリティ制御と責任共有を、AIF-C01の公式objective 5.1.1に沿って、用語、判断順序、例、誤解修正で整理します。