Tenseurs et autograd
Créer des tenseurs et laisser PyTorch dériver.
Le tableau qui dérive
Dans le même environnement Python que les chapitres précédents, installez PyTorch avec la commande adaptée à votre système depuis le sélecteur officiel (CPU suffit pour ces ateliers). Vérifiez ensuite python -c "import torch; print(torch.__version__)" avant d'exécuter le code ci-dessous.
import torch
torch.manual_seed(0)
x = torch.tensor([[1., 2.], [3., 4.]], dtype=torch.float32)
w = torch.tensor([2., 0.5], requires_grad=True)
y = (x @ w + 3.0).sum()
y.backward()
print(w.grad) # [4. 6.]
float32 obligatoire (les couches l'exigent), requires_grad=True pour les paramètres, .backward() remplit .grad. torch.manual_seed(0) fige l'init : notez-la comme toute graine de ce cursus.
Lien
C'est la chain rule du Ch6 et la backprop du Ch22, automatisées : fini le gradient à la main, mais vous savez ce qui est calculé. Les couches de la prochaine leçon ne feront qu'emballer ce mécanisme.