線形オーダーのCNNの入力ユニット探索 -特徴勾配による信号選択アルゴリズム-

線形オーダーのCNNの入力ユニット探索 -特徴勾配による信号選択アルゴリズム-

Abstract

近年、multi-signalsの時間領域を入力とする Convolutional Neural Network (CNN) によりクラス分類を実現するモデルが多数開発されている。ここで、multi-signalsの中にはクラス分類に重要なものもあれば、そうではないものもあると考えられる。推定に重要ではない信号が含まれる場合、計算時間・メモリ・実運用時のコストが増大してしまう。そのため、クラス分類に不要な信号を発見し、CNNの入力層から除去することは重要といえよう。本研究ではこれを実現するため、Grad-CAMの計算過程で得られる features gradient を利用して、不要な信号を除去するアルゴリズム “Features Gradient-based Signals Selection Algorithm (FG-SSA)” を提案する。これは想定する信号数Nに対し、linear order computation O(N) のオーダーで動作する高速なアルゴリズムである。

提案手法の有効性を、OPPORTUNITY Activity Recognition Dataset(複数の加速度センサを装着した被験者の行動が記録されたオープンデータセット)により検証した。その結果、15個の加速度信号(5センサ、XYZ軸)から、汎化性能を維持したまま平均6.65個の信号を除去できることが確認された。したがって提案するアルゴリズムはクラス分類に不要な信号を検出・削除することができる機能を有すると考えられる。

本アルゴリズムは、汎化性能に影響を与えない入力情報を削ぎ落とす効果を有するため、運用コストの低いCNNを実現するための具体的方法を提供する重要な研究である。

Publication

  • Yuto Omae, Yusuke Sakai, Hirotaka Takahashi, FG-SSA: Features Gradient-based Signals Selection Algorithm of Linear Complexity for Convolutional Neural Networks, arXiv preprint, doi: arXiv:2302.12711, 2023. [Link]
文責: 大前佑斗

日本大学生産工学部マネジメント工学科 専任講師、人工知能リサーチセンター 研究員。ゼミ配属では、プログラミングや人工知能を、時間をかけ丁寧に学習したい方を募集しています。文系・理系、どちらでもokです。

コメントは受け付けていません。