Énoncé

Tiny-modèle (quelques M params) : baseline prompt, puis LoRA r=4..8 sur 200 exemples classés, val pour alpha/lr/époques, test final avec accuracy + exemples d'erreurs.

Contraintes

Backbone et tokenizer figés et versionnés, test touché une fois, temps et mémoire notés.

Indices

peft = librairie d'adaptation (LoraConfig + get_peft_model, leçon mia-lora) + Trainer Hugging Face (boucle train/éval avec early_stopping, même rôle que la boucle PyTorch du Ch23) , dédupliquez train/test en n-grams avant tout.

baseline prompt -> LoRA r=8 a=16 lr=2e-4 3 époques -> test une fois

attendu : +2..8 pts si tâche hors distribution du backbone, sinon égalité -> gardez le prompt

Si le gain vient d'exemples dupliqués avec le test, c'est une fuite : nettoyez et recommencez. C'est ce contrôle qui fait la valeur ingénieur du fine-tune.