機械学習に基づく画像や動画の分類手法は数多く開発され、広く利用されている。
しかし、これらの手法による分類結果の多くは、人間による解釈が困難である。
この解釈の困難性は、自動運転などの安全性が重視されるシステムで機械学習に基づく分類器を使用する際に問題となることがある。
この問題を解決するために，画像や動画の分類結果をヒートマップに基づき説明する様々な手法が提案されているが、これらの手法は機械学習による判断結果を正しく反映していないヒートマップを生成することがある。
我々は、これらの既存手法によって生成した（質が低い可能性がある）ヒートマップを自動的に高品質なヒートマップに改良する手法 BORex (Bayesian Optimization for Refinement of visual model explanation) を提案する。
BORexでは、他の説明方法で生成されたヒートマップを事前情報とするガウス過程回帰によって、ヒートマップを改良する。
我々が行った実験では、広く用いられている画像分類や動画分類のベンチマークにおいて、既存手法によって生成されたヒートマップの品質を BORex が改善できていることが示された。
これにより、既存手法で十分に高品質なヒートマップが得られない場合に、BORex と組み合わせることでヒートマップを改善することができ、分類結果の解釈性を向上させることが可能となる。
自動運転、医療用AIなど
| 氏名 | 専攻 | 研究室 | 役職/学年 |
|---|---|---|---|
| 菊池淳 | 通信情報システム専攻 | 五十嵐研究室 | 修士2回生 |
| 末永幸平 | 通信情報システム専攻 | 五十嵐研究室 | 准教授 |
| 和賀 正樹 | 通信情報システム専攻 | 五十嵐研究室 | 助教 |
| 内田 康太郎 | 通信情報システム専攻 | 湊研究室 | 修士1回生 |