Training tools
与nnet1相关的代码在目录src/nnetbin下,重要的工具如下:
- nnet-train-frmshuff.cc :最普遍使用的神经网络训练工具,执行一次迭代训练。
- nnet-forward.cc : 通过神经网络计算前向数据,默认使用CPU
- 看选项:
- –apply-log :产生神经网络的对数输出(比如:得到对数后验概率)
- –no-softmax :从模型中去掉soft-max层(decoding with pre-softmax values leads to the same lattices as with log-posteriors)
- –class-frame-counts : counts to calculate log-priors, which get subtracted from the acoustic scores (在解码中的一个典型的技巧).
- 看选项:
- rbm-train-cd1-frmshuff.cc :使用CD1来训练RBM,当内部调整学习率/冲量时需要训练数据好几次。
- nnet-train-mmi-sequential.cc : MMI / bMMI DNN training
- nnet-train-mpe-sequential.cc : MPE / sMBR DNN training