Fully Connected

回帰問題の出力層で使われる恒等関数と、分類問題の出力層で使われるソフトマックス関数について説明します。 恒等関数 出力をそのまま出す関数を恒等関数と言います。回帰問題の出力では、そのままの値を出力するので、そこで使用されます。...

全結合層に用いられるドロップアウトについて説明します。 ドロップアウト 図のように、全結合層で、学習時にxx%のノードを使用せずに学習を行うことをドロップアウトと言います。学習ステップ毎にドロップアウトするノードはラン...

ディープラーニングのネットワークの基本要素である全結合層について説明します。 全結合 図のように、1層目のノードと2層目のノードが全て結合している場合を、全結合と言います。結合している線については、左から右に計算が進む...