Dans la recherche et la mise en œuvre, l’IA organise de plus en plus la littérature, génère des hypothèses et présente des explications candidates aux observations. Le problème ne tient pas seulement au fait que les hypothèses générées peuvent être erronées. Une explication logiquement cohérente peut être intégrée à des documents, puis réutilisée dans des travaux ultérieurs comme une « prémisse déjà vérifiée ». Dès que son statut change ainsi, l’incertitude initiale devient invisible et un raisonnement non vérifié peut s’accumuler comme un fait.
Pour éviter ce problème, il faut séparer la validité du raisonnement de l’achèvement de la vérification. Le fait qu’une conclusion découle logiquement de prémisses données est différent du fait que ces prémisses soient vraies dans la réalité. De même, qu’une hypothèse soit compatible avec plusieurs observations ne signifie pas que les hypothèses concurrentes ont été éliminées. Plus l’IA devient performante en raisonnement, plus cette distinction est importante. Une grande qualité de raisonnement ne doit pas devenir une raison d’omettre la vérification externe.
Une manière de préserver le caractère provisoire consiste à consigner séparément les composantes du contenu généré. Il faut distinguer ce qui est étayé par des sources externes ou des observations, les parties qui relèvent du raisonnement de l’IA, ce qui reste non confirmé et les faits qui imposeraient de réviser ou de rejeter l’hypothèse. Ainsi, même si l’on ne relit plus tard que le texte, il reste possible de retracer le stade auquel se situe la conclusion.
Les conditions de réfutation sont particulièrement importantes. Si nous ne recueillons que des « éléments étayant cette hypothèse », l’explication peut facilement se renforcer elle-même. Si nous indiquons à l’avance quelle observation ferait échouer l’hypothèse, la vérification cesse d’être un travail qui protège une conclusion pour devenir un travail qui la met à l’épreuve. Lorsque l’IA génère plusieurs hypothèses, placer côte à côte les conditions qui étayent et celles qui réfutent chacune d’elles aide également à éviter un choix fondé uniquement sur la plausibilité.
Lors de la mise en relation avec des sources externes, il faut également distinguer l’existence d’une source du fait que cette source étaye l’affirmation. Même si une source citable est trouvée, elle peut ne pas soutenir directement l’affirmation actuelle si elle porte sur un autre objet, une autre période ou d’autres conditions. Le soutien à la recherche doit donc auditer non seulement l’existence d’une source, mais aussi l’étendue de la correspondance entre l’affirmation et les éléments probants. L’ancrage dans les sources n’est pas décoratif ; c’est un mécanisme de contrôle de la portée d’une affirmation.
Montrer le caractère provisoire ne consiste pas simplement à ajouter « peut-être » aux phrases. Si tout est rendu vague, il devient plus difficile de distinguer ce qui est fortement étayé de ce qui l’est faiblement. Il faut adapter la formulation à l’état épistémique. Les faits confirmés, les explications solides mais non vérifiées, les hypothèses exploratoires et la suspension du jugement faute d’informations suffisantes doivent être distingués, et chacun de ces états doit être relié à la prochaine vérification nécessaire.
Un audit doit examiner non seulement si une conclusion est correcte, mais aussi si elle a été placée dans le bon statut. Si une proposition est valide en tant qu’hypothèse mais consignée comme un fait établi, il s’agit d’un problème de qualité distinct de la question de savoir si son contenu se révélera finalement vrai ou faux. Inversement, traiter des faits suffisamment vérifiés avec un langage excessivement faible peut retarder des décisions nécessaires. Rendre le raisonnement provisoire ne signifie pas toujours écrire avec faiblesse ; cela signifie faire correspondre la force de l’expression à l’état des éléments probants.
Ce cadre devient encore plus important lorsque le contenu généré par l’IA sert d’entrée à un traitement ultérieur par l’IA. Si le caractère provisoire d’une hypothèse antérieure est perdu avant sa réutilisation, les prémisses non vérifiées peuvent être amplifiées à chaque couche de raisonnement. Si l’état épistémique est préservé lors de la transmission, le traitement ultérieur peut déterminer quelles parties doivent être revérifiées. La vérifiabilité concerne non seulement les explications destinées aux humains, mais aussi la gestion des prémisses dans les traitements d’IA à plusieurs étapes.
Dans le soutien à la recherche de Sai＊aus, il est important de ne pas enfermer la compréhension dans une explication unique et achevée, mais de conserver jusqu’où quelque chose a été vérifié, où commence le raisonnement et ce qui pourrait le mettre à jour. Plus l’IA améliore sa capacité à générer des hypothèses, plus elle a également besoin d’une structure d’enregistrement empêchant ces hypothèses de se transformer ultérieurement en faits. La capacité générative et l’auditabilité ne doivent pas être traitées comme des fonctions séparées ; elles doivent être reliées dès le moment de la génération.
Maintenir le raisonnement de l’IA à l’état provisoire n’a pas pour but de ralentir la recherche. En précisant quelles conclusions doivent passer à la vérification suivante, quelles prémisses doivent être revérifiées et quelles hypothèses peuvent être rejetées, les ressources de vérification peuvent être allouées de manière appropriée. La distinction importante est celle entre produire rapidement une conclusion et arrêter rapidement une conclusion. La première peut accélérer l’exploration ; la seconde peut fermer la porte à la vérification.
La distance réflexive nécessaire à une IA de soutien à la recherche ne consiste pas à douter sans fin de son propre raisonnement et à ne rien décider. Elle consiste à conserver les éléments probants dont dépend le raisonnement, le degré auquel il a été vérifié et ce qui conduirait à sa révision. Si validité et vérifiabilité peuvent être séparées tout en restant reliées, le contenu généré par l’IA peut être traité non comme un fait accompli, mais comme un candidat vérifiable au statut de connaissance. Maintenir cet état constitue une base permettant de concilier vitesse et fiabilité dans la recherche.
Pas des réponses. De la compréhension.