Aller au contenu
Adama DialloRSE · DATA · SYSTÈMES
RecruteurProfil, preuves, disponibilitéÉchangeons

JOURNAL DES DÉCISIONS DEC-104

Générer une réponse sans contexte plutôt qu’échouer

Statut
RemplacéeUne décision ultérieure l’a remplacée. Elle reste en ligne, datée, et pointe vers celle qui la remplace.
Date
Portée
Ce cockpit
Impact
Conformité
Réversibilité
Revenir en arrière est simple

Cette décision a été remplacée. Elle reste en ligne et datée : c’est la trace du raisonnement qui a mené ailleurs. Lire DEC-007, Échouer explicitement plutôt que répondre sans source

Contexte

L’assistant du site répond à partir de passages récupérés dans son corpus.

Quand la récupération ne renvoyait rien, il restait deux comportements possibles : générer quand même, ou refuser.

Refuser paraissait dur pour un assistant de portfolio, dont le rôle est d’abord de dialoguer.

Options envisagées

  • Retenue

    Générer une réponse prudente sans passage à l’appui

    L’assistant reste conversationnel même quand le corpus ne répond pas, et la formulation prudente limite le risque.

  • Écartée

    Renvoyer une erreur explicite

    Un assistant qui tombe en panne paraissait pire qu’un assistant approximatif.

Décision

L’assistant génère une réponse même quand la récupération documentaire ne renvoie aucun passage.

Raisonnement

Technique
La génération est appelée avec un contexte vide, le modèle répond à partir de ses seules connaissances.
Réglementaire
La formulation était prudente et l’assistant présenté comme non contractuel.
Économique
Aucun coût direct : la génération a lieu de toute façon, avec ou sans passages récupérés.

Compromis accepté

Une réponse sans source ressemble exactement à une réponse fondée.

DÉCISION · CODE · RÉSULTAT

  1. LA DÉCISION

    L’assistant génère une réponse même quand la récupération documentaire ne renvoie aucun passage.

  2. LE CODE QU’ELLE A PRODUIT
  3. LE RÉSULTAT OBSERVÉ

    L’assistant a produit des réponses fluides et plausibles sur des sujets réglementaires, sans qu’aucun passage ne les fonde, et sans que le lecteur ait le moindre moyen de le voir.

Ce sur quoi je suis revenu

Je pensais qu’un assistant qui refuse de répondre serait perçu comme cassé, et qu’une réponse prudente sans source valait mieux qu’un message d’erreur.

Une réponse sans source est indiscernable d’une réponse fondée. La prudence de la formulation ne change rien pour le lecteur : elle rend même l’erreur plus crédible.

L’IA propose, le système décide.

Lire les revirements en entier

Le principe que cette décision gouverne

L’IA propose, le système décide.

Voir d’où viennent les cinq principes

LE JOURNAL COMPLET

Toutes les décisions, au même format.

Elles se comparent : même gabarit, même vocabulaire, même exigence de trace.

Revenir au journal