
Углубленное знакомство с PyTorch
405
Для получения дополнительной информаци и о схеме инициализации Глорота и
Бенджио, включая ее математическое обоснование, мы рекомендуем статью
«Understanding the difficulty of deep feedforward neural networks», Xavier Glorot and
Yoshua Bengio, 2010, которая находится в свободном доступе по адресу: http://
proceedings.mlr.press/v9/glorot10a/glorot10a.pdf.
Теперь в качестве более близкого к практике варианта применения определим два
объекта
Tensor
внутри базового класса
nn.Module
:
>>> class MyModule(nn.Module):
... def __init__(self):
... super().__init__()
... self.w1 = torch.empty(2, 3 ...