機械学習の説明可能性・解釈可能性

説明可能なAIが必要とか、構築されたAIモデルに公平性が担保されてるかとか話題になっているのはご存じの方もいるでしょう。説明可能性と解釈可能性の違いわかってますかとか、それはAIモデルではなく運用やデータ取得・蓄積について考えることだろとか、もう変な識者がひっかきまわして議論自体の説明可能性が、、、と思っていたのは今や昔、だいぶ整理されてきたみたい。
何か頑張って書こうかと思ってたけど、整理されているものがあったので、これでいいや。

もうちょっと理論的なところから知りたい場合の参考文献

英語だとムズイ、もっと簡単に概要を知りたい、というならコレ。特徴量重要度の3種類を読むまで整理して考えてなかった…。

ライブラリは流行り廃りがあるのでDALEXかどうかは比較的どうでもいいのだけど、何ができるかのイメージづくりに

手を動かしてみるのは、この御方のを見るといいはず。

論文として良いサマリだったり面白い検討をしていたりするのはこの辺り。

Mapping of machine learning approaches for description, prediction, and causal inference in the social and health sciences | Science Advances

最後になぜ説明可能性・解釈可能性に着目されることになったかの事例を追加

他の情報を見たい方は、目次ページへ
仕切り直しで収集情報の整理から｜くすぐったがり｜note