Glossary
残差接続
読み: ざんさせつぞく英: skip connection / residual connection準1級DL 基礎
定義
$\mathbf{a}^{(l)} = \mathbf{a}^{(l-1)} + F(\mathbf{a}^{(l-1)})$。前層の入力を後層に直接足す経路。ResNet で 100 層以上の深層化を実現。
$\mathbf{a}^{(l)} = \mathbf{a}^{(l-1)} + F(\mathbf{a}^{(l-1)})$。前層の入力を後層に直接足す経路。ResNet で 100 層以上の深層化を実現。