Probas & stats : raisonner sur l'incertain

Un modèle ML est une machine à probabilités

Un classifieur ne dit pas « spam » : il dit « spam avec probabilité 0.93 ». Un LLM ne choisit pas le mot suivant : il calcule une distribution de probabilité sur tout le vocabulaire et en tire un échantillon (c'est le paramètre temperature : à 0 on prend le plus probable, plus haut on échantillonne plus librement).

Les distributions à reconnaître de vue

• Normale (gaussienne) : la cloche — bruit de mesure, erreurs. Caractérisée par moyenne μ et écart-type σ ;
• Uniforme : tout est équiprobable — l'init de tes rand() ;
• Longue traîne (power law) : quelques valeurs énormes, une masse de petites — trafic web, popularité des produits, longueur des textes. La plupart des données réelles sont là, et la moyenne y est un mensonge.

Biais et variance : le trade-off central

• Biais : le modèle est trop simple, il rate la structure (il underfit) — une droite pour modéliser une sinusoïde ;
• Variance : le modèle est trop flexible, il apprend le bruit par cœur (il overfit) — parfait sur l'entraînement, nul en prod.

Tout le métier consiste à naviguer entre les deux : plus de données ↓ la variance, un modèle plus riche ↓ le biais.

Les trois pièges qui coulent des modèles en prod

1. Corrélation ≠ causalité : le modèle apprend que « parapluie vendu » prédit « chaussée mouillée »… et on croit pouvoir assécher la route en interdisant les parapluies ;
2. Biais d'échantillonnage : entraîné sur les clients qui ont répondu au sondage → ne généralise pas aux silencieux ;
3. Dérive (drift) : la distribution des données de prod s'éloigne de celle de l'entraînement (nouveaux comportements, saisonnalité). Le modèle n'est pas « cassé » — le monde a changé. C'est LE truc qu'on monitore (module 8).