Vertex Explainable AI は特徴アトリビューションを Vertex AI に統合します。このページでは、Vertex AI で使用可能な特徴アトリビューション方式の概念的な概要を簡単に説明します。技術的な詳細については、AI Explanations に関するホワイトペーパーをご覧ください。
Vertex Explainable AI は、分類タスクや回帰タスクのモデル出力を理解するのに役立ちます。Vertex AI は、データ内の各特徴が予測結果に及ぼした影響の度合いを説明します。この情報を使用して、モデルが期待どおりに動作していることを確認し、モデルのバイアスを認識して、モデルやトレーニング データの改善方法を確認できます。
Vertex AI は、次のモデルのタイプで Vertex Explainable AI をサポートします。
- AutoML 画像モデル（分類モデルのみ）
- AutoML 表形式モデル（分類モデルと回帰モデルのみ）
- 表形式のデータに基づくカスタム トレーニング モデル
- 画像データに基づくカスタム トレーニング モデル
AutoML 表形式モデルの場合、Google Cloud Console では特徴アトリビューションが特徴量の重要度として表示されます。モデル全体については、モデル特徴量の重要度を確認できます。また、オンライン予測とバッチ予測の両方でローカル特徴量の重要度を確認できます。
特徴アトリビューション
特徴アトリビューションは、モデル内の各特徴が各インスタンスの予測にどの程度影響を及ぼしたかを示します。予測をリクエストすると、モデルに適した予測値を得られます。説明をリクエストすると、予測に加えて、特徴アトリビューションの情報を得られます。
特徴アトリビューションは表形式のデータで機能します。また、画像データ用の可視化機能が組み込まれています。以下の例を考えてみましょう。
気象データと以前の共有データに基づいて、自転車の走行時間が予測されるようにトレーニングされているディープ ニューラル ネットワークがあるとします。このモデルについて予測のみをリクエストすると、自転車の予測走行時間を分単位で返されます。説明をリクエストすると、自転車の予測走行時間に加えて、説明のリクエストに基づき、特徴ごとのアトリビューション スコアが返されます。アトリビューション スコアは、指定したベースライン値と比較して、その特徴が予測値の変化にどの程度影響を及ぼしたかを示します。モデルに適した有意義なベースラインを選択します。この場合は、自転車の平均走行時間を選択します。特徴アトリビューション スコアをプロットして、予測結果に最も影響を及ぼした特徴を確認できます。
指定された画像にイヌとネコのどちらが含まれているかを予測するようにトレーニングされている画像分類モデルがあるとします。新しい画像セットでこのモデルから予測をリクエストすると、画像ごとに予測（「dog」または「cat」）を受け取ります。説明をリクエストすると、予測されたクラスに加えて、予測結果に最も強く影響を及ぼした画像内の部分を示す画像のオーバーレイが返されます。
特徴アトリビューション オーバーレイを含むネコの写真 
特徴アトリビューション オーバーレイを含むイヌの写真 画像分類モデルは、画像に含まれる花の種類を予測するようにトレーニングされます。このモデルから新しい画像セットの予測をリクエストすると、各画像（「デイジー」または「タンポポ」）の予測を受け取ります。説明をリクエストすると、予測されたクラスに加えて、予測結果に最も強く影響を及ぼした画像内の部分を示す領域のオーバーレイが返されます。
特徴アトリビューション オーバーレイを含むデイジーの写真
利点
特定のインスタンスを調べて、トレーニング データセット全体で特徴アトリビューションを集計することで、モデルの仕組みをより詳しく分析できます。次の点を考慮してください。
モデルのデバッグ: 特徴アトリビューションは、標準的なモデル評価技法では見落としてしまうことが