E資格(エンジニア資格) 無料問題 7 / 10 ・ 分野4: 深層学習の応用
GAN の学習で起こるモード崩壊(mode collapse)の説明として、適切なものはどれか。
- 生成器が、学習データの画像をそのまま記憶して出力する
- 生成器が、データの一部のパターンだけを生成し、多様さが失われる
- 識別器が、本物と偽物を見分けられるようになり、損失が0になる
- 学習率が大きすぎて、損失が発散する
正解と解説を見る
正解: B
正解の理由
モード崩壊は、生成器が、データの分布の一部の山(モード)だけに生成を集中させ、他のモードを生成しなくなる現象である。識別器を欺ける少数のパターンを見つけると、生成器はそればかり出して、多様な出力にならない。Wasserstein GAN は、この現象を軽減することを目指した。
違う選択肢
「識別器が、本物と偽物を見分けられるようになり、損失が0になる」… 識別器が完全に見分けられるのは、生成器の学習信号が消える別の問題である。モード崩壊は、生成の多様さが失われる現象である。
「生成器が、学習データの画像をそのまま記憶して出力する」… 訓練データの暗記(過剰適合の一種)は、モード崩壊とは別の問題である。モード崩壊では、少数の似た出力が繰り返される。
「学習率が大きすぎて、損失が発散する」… 損失の発散は、最適化の不安定さである。モード崩壊は、損失が安定していても起こりうる。
押さえどころ
多様さを測る指標として、生成した画像のクラスの分布や、特徴空間での分布の広がりを使う。ミニバッチの特徴の多様さを識別器に見せる工夫などが、モード崩壊への対策になる。