[torch 参数更多]torch.nn.TransformerEncoder¶
torch.nn.TransformerEncoder¶
torch.nn.TransformerEncoder(encoder_layer, num_layers, norm=None, enable_nested_tensor=True, mask_check=True)
paddle.nn.TransformerEncoder¶
paddle.nn.TransformerEncoder(encoder_layer, num_layers, norm=None)
PyTorch 相比 Paddle 支持更多其他参数,具体如下:
参数映射¶
| PyTorch | PaddlePaddle | 备注 |
|---|---|---|
| encoder_layer | encoder_layer | TransformerEncoderLayer 的一个实例。 |
| num_layers | num_layers | TransformerEncoderLayer 层的叠加数量。 |
| norm | norm | 层标准化(Layer Normalization)。 |
| enable_nested_tensor | - | 是否转为嵌套 Tensor,Paddle 无此参数,一般对网络训练结果影响不大,可直接删除。 |
| mask_check | - | mask_check 参数,Paddle 无此参数,一般对网络训练结果影响不大,可直接删除。 |