【E資格不合格から学ぶ】GoogLeNet（画像認識）の3つのポイントを解説！

1. 畳み込みニューラルネットワーク（CNN）構造
2. 3つの画期的な手法を導入
   ・Inceptionモジュール
   フィルタサイズの異なる複数の畳み込み処理を施した機構
   　補足）Inception：直訳すると「始まり」
   ・Auxiliary Loss
   ・Global Average Pooling
3. 2014年にILSVRC（物体検出コンペティション）において優勝
   ・分類誤差は7%

1. 複数の畳み込み層やpooling層から構成される小さなネットワーク
   ・「小さなネットワーク」＝「１つのモジュール」として定義
   ・モジュールの積み重ねでネットワークを構築
2. Inceptionモジュールを積層することによって層を深くする。
   ・様々な特徴を捉えることができる。
   ・大きな畳み込みフィルタ → 小さな畳み込みフィルタのグループで近似
   ・モデルの表現力とパラメータ数のトレードオフを改善
3. 畳み込みフィルタ（1×1）
   ・次元削減としての側面を持つ
   ・1×1フィルタ（上図の黄色部分）の追加によって、次元を削減しているため非零パラメータの数が減少 ⇒ 計算効率が向上

1. Inceptionｰv1：
   以前のAlexNetなどのCNNバックボーンよりも、
   ・大幅なパラメータ数削減による計算コスト削減
   ・深いネットワークにして表現力を向上
2. Inceptionｰv2：
   ・畳み込みフィルタの大きさを変更
3. Inceptionｰv3：
   ・新 Inceptionブロック（幅と深さのバランスがいい）を提案
   ・効率的かつ高精度な InceptionNet に進化
   ・ラベル平滑化を提案
   ・バッチ正規化を追加

1. 補助分類器
   ネットワークから分岐されたサブネットワークとして同時に学習
   ⇒ クラス分類
   ⇒ 計算した勾配を分岐元のネットワークにフィードバック
2. 勾配消失問題の解消
   ResNetと外観が異なるが、同様に勾配消失問題を解消できる。
3. Auxiliary Lossの追加
   ・アンサンブル学習と同様の効果 ⇒ 汎化性能の向上
   ・Auxiliary Loss の代わりにBatch正規化を加える ⇒ 学習がうまくいく場合がある。

学生

「Auxiliary Loss」の追加で1×1畳み込みにより次元削減が行われるから、計算量は減少できるの？

著者

計算量の減少はできないよ!
なぜなら、「Auxiliary classifier」 が追加になったからだよ。

　各チャンネルの画素平均値を求める
↓
ベクトル（各チャンネルの平均値が要素）に変換
↓
次の演算でチャンネル毎の特徴量として計算
※計算量を大幅に削減

• Pooling（プーリング）とは･･･必要なところは細かく、必要がないところは荒くデータを圧縮する方法
• Pooling：直訳）集約する
• Global： 直訳）制限のない
• Average：直訳）平均