掌上团酷

批规范化的意思

guī fàn huà

批规范化


拼音pī guī fàn huà
拼音字母pi gui fan hua
拼音首字母pgfh

百科含义

批规范化是指在每次随机梯度下降时,通过mini-batch来对相应的activation做规范化操作,使得结果(输出信号各个维度)的均值为0,方差为1. 而最后的“scale and shift”操作则是为了让因训练所需而“刻意”加入的BN能够有可能还原最初的输入,从而保证整个网络的capacity。

词语首拼