En lisant une explication produite par une IA, il n’est pas rare de se dire : « Si c’est aussi précis, cela doit être correct. » Lorsque le texte ne montre aucune hésitation, que les raisons sont présentées dans l’ordre et que même les détails sont expliqués, le contenu peut sembler constituer une information fiable. Pourtant, le naturel d’une explication ne garantit pas qu’elle ait été confirmée par des faits extérieurs. L’IA peut exprimer dans le même style non seulement des informations fiables, mais aussi des inférences complétées à partir du contexte. La première chose que les humains doivent distinguer est que la qualité de l’écriture et la certitude du contenu sont deux propriétés différentes.
Ce problème est difficile parce qu’il ne suffit pas de rechercher uniquement les erreurs évidentes. Si la majeure partie d’une explication est correcte et qu’une seule partie relève de l’inférence, cette inférence peut paraître plus certaine parce qu’elle est entourée d’informations correctes. Par exemple, même si la date et le lieu d’un événement sont confirmés, la raison pour laquelle cet événement s’est produit peut ne pas l’être. Pourtant, lorsqu’ils sont lus comme un seul texte, la frontière entre fait et explication disparaît facilement. La plausibilité peut naître non pas de l’erreur elle-même, mais du fait de placer sur un même plan des éléments présentant des degrés de certitude différents.
La compréhension humaine possède une caractéristique similaire. Nous inférons des situations à partir d’informations fragmentaires, et la vie quotidienne serait impossible sans cela. Le problème n’est pas de faire des inférences. Il consiste à oublier que nous avons inféré quelque chose et à le traiter avec la même force qu’un fait observé. Dans le dialogue avec l’IA, non seulement les éléments complétés par l’IA, mais aussi les significations ajoutées ensuite par le lecteur humain peuvent se superposer. La méprise se forme donc non seulement à l’intérieur de l’IA, mais aussi entre la génération et la réception.
Ce qu’il faut, ce n’est pas marquer chaque phrase d’un signe de suspicion, mais traiter séparément les rôles de ses contenus. Si nous distinguons « ce qui a été confirmé », « l’interprétation qui en est tirée » et « l’inférence qui n’a pas encore été vérifiée », les utilisateurs peuvent lire le même texte et le juger différemment. Les faits confirmés peuvent servir de base au jugement suivant, les interprétations peuvent être comparées à d’autres possibilités et les inférences peuvent être vérifiées à l’aide d’informations supplémentaires. Une fois les différences visibles, une explication de l’IA n’est plus un produit fini unique, mais un matériau de dialogue contenant des éléments présentant différents degrés de certitude.
Supposons qu’un colis acheté en ligne ne soit toujours pas arrivé après l’heure prévue. Si l’IA consulte l’historique de livraison et répond : « Les embouteillages en sont probablement la cause », le retard lui-même peut être confirmé, mais savoir si les embouteillages l’ont causé est une autre question. Le mauvais temps, des retards de tri, une vérification de l’adresse et d’autres causes sont également possibles. Si l’observation « il est en retard » est séparée de l’inférence « les embouteillages ont causé le retard », l’utilisateur peut vérifier les informations du transporteur si nécessaire. Sans cette séparation, une explication causale plausible se fige comme un fait.
Le fait que l’IA puisse conserver sa propre interprétation en tant qu’interprétation a une autre signification : lorsque de nouvelles informations arrivent, elle n’a plus à défendre son explication antérieure. Si une inférence initiale est traitée comme un fait, des informations contradictoires apparues ensuite peuvent être reléguées au rang d’exception, ou l’explication peut être maintenue artificiellement. Si, dès le départ, la première explication est considérée comme provisoire, la mettre à jour à la lumière de nouvelles informations n’est pas un échec. C’est un processus normal qui réduit la distance avec la réalité.
Les humains ont besoin du même espace. Si l’IA indique que « cela comprend une inférence », les utilisateurs peuvent plus facilement apporter leur propre expérience ou des informations supplémentaires. S’ils ajoutent des informations telles que « il n’y avait aucun problème météorologique ce jour-là » ou « le transporteur a envoyé un autre avis », le dialogue cesse de consister à accepter simplement la première explication et devient une vérification conjointe de la réalité. Ne pas cacher l’incertitude de l’IA n’est pas simplement faire preuve de prudence ; c’est aussi préserver une place permettant aux humains de participer à la formation de la compréhension.
Pour Sai＊aus, l’important n’est pas d’affaiblir un texte plausible. Il s’agit d’organiser clairement les choses tout en préservant les frontières que cette organisation ne doit pas faire disparaître. Si les faits et les interprétations, les observations et les inférences, ainsi que les éléments vérifiés et non vérifiés peuvent être distingués lorsque cela est nécessaire, fluidité et prudence ne doivent pas nécessairement s’opposer. Le but n’est pas de multiplier les formulations vagues pour éviter toute affirmation, mais de donner au degré de certitude une forme que les humains puissent manier.
La confiance dans l’IA ne naît pas nécessairement du fait de la faire paraître toujours correcte. Les personnes peuvent plutôt utiliser ses productions de manière appropriée lorsque la frontière entre ce qui est connu et ce qui ne l’est pas reste stable. Lorsqu’une erreur survient, si l’on peut voir où une inférence est intervenue et ce qui doit être vérifié à nouveau, une correction est possible. Ne pas substituer la plausibilité à la vérité n’est pas une règle destinée à se méfier de l’IA ; c’est une règle permettant de déterminer correctement l’étendue de la confiance.
Approfondir la compréhension entre l’IA et les humains n’exige pas que l’IA présente une seule image correcte du monde. Il faut pouvoir partager la position qu’occupe une explication générée par rapport à la réalité. Les faits fiables, les interprétations plausibles et les inférences qui nécessitent encore une vérification ne doivent pas être traités comme une seule et même chose. Lorsque cette distance est maintenue, les humains peuvent vérifier, objecter et mettre à jour avec l’IA au lieu de se laisser entraîner par son texte. Le fondement du dialogue ne consiste pas à supprimer la force de la plausibilité, mais à ne pas perdre de vue le moment où cette force commence à se faire passer pour la vérité.
Pas des réponses. De la compréhension.