基盤モデルの学習・微調整・データ準備 | AWS Certified AI Practitioner

1 / 11 ブロック9%

イントロ

基盤モデルの学習・微調整・データ準備

目的に合うデータ、調整方法、評価境界を設計する

事前学習済みモデルへ追加の例や指示データを使って学習を行い、特定タスクや領域での振る舞いを適応させる方法です。

定義

とは、事前学習済みモデルを追加データで特定用途へ適応させる学習です。
言葉を分けると: はで一般能力を得ます。は指示追従を、は既存知識の転用を狙います。は領域知識を深め、は小型モデルへ振る舞いを移します。

手順

調整データを準備する順序

1
改善したい具体的な振る舞いと基準を定義する。
2
権利と利用目的を確認し、を行う。
3
で品質とを点検し、を学習から分ける。
4
調整前後を同じ評価で比較し、安全性と汎用能力の劣化も確認する。

要点

判断で押さえる境界

データ量だけを増やしても、誤った例や一部利用者だけの表現が多ければ品質は下がります。も、人の好みや基準差を含み得ます。評価データの混入と評価者の偏りを監査します。

1
調整目的と評価を先に定義
2
代表性・権利・品質・偏りを点検
3
学習と独立評価を分離

基盤モデルの学習・微調整・データ準備について目的・基準、データ選別、微調整、独立評価、監視・改善の関係を文字ラベルと矢印で示した図 — 調整データの準備から独立評価、運用監視を循環させる図です。評価データを学習へ混ぜない境界を意識します。

例

場面: 社内サポート文体へFMを微調整するため、過去メールを集めます。
順に考えると: 顧客の個人情報を除き、利用権限を確認し、誤った回答や古い規程を排除します。製品・言語・問い合わせ難度が偏らないように選び、学習用と最終テストを分けます。担当者が修正した高品質例を使い、調整後も正確さ、安全性、一般質問への劣化を比較します。
ここが結論: 文体改善だけを狙いながら、機密漏えいと誤知識の学習を抑えられます。

注意

過去ログはそのまま正解集ではない

確認

AIF-C01 判断チェック

Q1

微調整の性能を正直に測る方法はどれですか。

まとめ

まとめ

1
事前学習と追加調整は目的が違う
2
微調整方法を改善したい振る舞いで選ぶ
3
データ品質・代表性・権利を管理
4
独立評価で調整前後と副作用を比較する

次へ

次は「基盤モデルの評価方法と指標」へ

基盤モデルの活用

基盤モデルの評価方法と指標

基盤モデルの評価方法と指標を、AIF-C01の公式objective 3.4.1・3.4.2に沿って、用語、判断順序、例、誤解修正で整理します。