Techniques : few-shot, grounding, caching, effort

Few-shot : montrer plutôt que dire

Un exemple bien choisi vaut dix règles. Pour un cas ambigu (« comment traiter une ligne "reliquat" ? »), un few-shot montre le comportement attendu mieux qu'une consigne abstraite. Les règles :

• des exemples représentatifs des cas durs, pas des cas faciles (le modèle sait déjà les faciles) ;
• peu et précis : 2-3 exemples excellents battent 10 médiocres (et coûtent moins de tokens) ;
• maintenus : un exemple qui contredit une règle récente gagne (leçon 1) — les exemples sont du code.

Grounding : ancrer dans le réel

La technique anti-hallucination centrale : forcer le modèle à s'appuyer sur une source plutôt que sur sa mémoire. Dans l'extraction : raw_text obligatoire par ligne (« montre-moi où c'est écrit »). Dans le RAG : les passages injectés + « réponds uniquement à partir des sources ». Le grounding transforme « le modèle croit savoir » en « le modèle cite » — et rend l'erreur détectable (on peut vérifier la source).

Prompt caching : payer une fois le contexte stable

Le levier de coût n°1 vu dans le cours Stack IA : les parties invariantes du prompt (rôle, règles, schéma, définitions de tools) sont cachées et facturées une fraction du prix aux appels suivants. Le geste : marquer le bloc stable comme cachable, et ordonner le prompt du plus stable au plus variable (stable en tête → le préfixe cachable est maximal). Sur un agent multi-tours ou un pipeline qui rejoue le même system prompt sur mille documents, c'est 90 % du coût qui bascule au tarif cache.

Effort / budget de réflexion

Les modèles récents exposent un curseur d'effort (combien « réfléchir » avant de répondre). Plus d'effort = meilleure qualité sur les tâches dures, mais plus de latence et de tokens. Le réflexe de prod : le minimum qui passe l'éval. L'extraction du projet tourne à effort « medium » (mesuré suffisant), pas au maximum par défaut — chaque cran d'effort inutile est de la latence et du coût offerts.

Ce qui ne marche PAS (et qu'on voit partout)

• « C'est très important !!! », les menaces, les pourboires imaginaires : bruit, mesurable comme tel ;
• le prompt fleuve : au-delà d'un point, ajouter dilue — l'éval montre la courbe en cloche ;
• sur-spécifier le raisonnement : dire au modèle comment penser étape par étape sur une tâche qu'il maîtrise le ralentit sans gain.