Lorsque nous posons une question à une IA, elle peut fournir une réponse sans hésitation apparente. Si les raisons et les exemples sont bien organisés et que l’enchaînement est naturel, l’explication peut donner l’impression de rapporter quelque chose de correct. Mais un langage naturel et un contenu vérifié dans la réalité ne sont pas la même chose. L’IA ne regarde pas nécessairement directement le monde devant elle pour le transcrire en mots ; elle construit une explication adaptée à la question à partir des informations qui lui ont été fournies et des connaissances dont elle dispose. Dès le départ, il existe une distance entre ce que l’IA génère et ce qui se passe réellement.
Cette distance n’est pas un problème propre à l’IA. Les humains aussi donnent du sens aux événements qu’ils voient et entendent, et confondent parfois ce sens avec les événements eux-mêmes. Par exemple, du fait qu’une personne répond plus tard que d’habitude, nous pouvons penser : « Elle est en colère. » Le retard de la réponse peut être observé, mais il est impossible d’établir que la personne est en colère sans autres informations. Pourtant, plus une interprétation nous paraît naturelle, plus nous risquons d’oublier l’inférence que nous avons nous-mêmes ajoutée entre les deux. Le problème n’est pas l’interprétation en elle-même, mais le fait d’élever une interprétation au rang de réalité elle-même.
Dans le dialogue avec l’IA, cette confusion peut survenir encore plus facilement. L’IA peut exprimer des faits observés, des connaissances générales et des inférences tirées du contexte dans un seul texte fluide. Il peut alors devenir difficile de voir où s’arrêtent les informations vérifiées et où commence l’interprétation. La fluidité facilite la compréhension, mais elle peut aussi masquer les frontières entre différents types d’informations. L’important n’est donc pas de se méfier des textes produits par l’IA au point de ne plus rien croire. Il s’agit de se rappeler que des éléments présentant différents degrés de certitude peuvent coexister dans un même texte.
Ce qu’il faut ici, c’est une manière de séparer l’« impression » qui naît en nous du « jugement » que nous portons sur cette impression. Même si quelque chose nous apparaît d’une certaine façon, nous ne sommes pas obligés d’en conclure que c’est effectivement ainsi. En créant une certaine distance, nous pouvons organiser la situation ainsi : « ceci peut être confirmé », « à partir d’ici, il s’agit d’une interprétation » et « cette partie reste inconnue ». Appliquée à notre relation avec l’IA, cette attitude suggère une nouvelle manière d’aborder les contenus générés par l’IA : non pas les rejeter, mais les utiliser tout en observant à quel stade de connaissance ils se situent.
Supposons qu’une IA dise à propos d’un projet de voyage : « Cet itinéraire est le plus adapté. » Même si le temps de trajet et la distance ont été vérifiés, la conclusion « le plus adapté » comporte des jugements sur ce qui compte, comme le coût, l’affluence, la facilité de marche et la contrainte des correspondances. Son sens change aussi selon que l’utilisateur voyage avec un jeune enfant ou transporte de gros bagages. Même lorsque les informations calculables sont exactes, l’évaluation qui en découle ne devient pas automatiquement la réalité. Distinguer cette différence constitue une manière concrète de maintenir une distance vis-à-vis des contenus générés.
Maintenir cette distance ne diminue pas la valeur de l’IA. C’est au contraire une condition pour utiliser plus précisément ce qu’elle sait bien faire. L’IA peut organiser de grandes quantités d’informations, comparer des explications possibles et révéler des relations que les humains ont pu négliger. Mais plus cette capacité augmente, plus les explications générées peuvent devenir convaincantes. Lorsque leur force de persuasion augmente, ce dont nous avons besoin n’est pas d’un choix binaire entre confiance inconditionnelle et méfiance totale, mais d’une distance suffisante pour demander : « Sur quoi cette explication repose-t-elle, jusqu’à quel point est-elle certaine, et qu’est-ce qui relève encore de l’interprétation ? »
Dans cette perspective, il n’est pas nécessaire de concevoir l’« autoréflexion » de l’IA comme le fait de regarder dans son propre esprit au sens humain. Ce qui importe davantage, c’est une discipline qui empêche l’IA de traiter immédiatement ses propres raisonnements et interprétations générés comme une réalité établie. Elle doit préserver la distinction entre le fait de pouvoir générer une explication et le fait que cette explication soit effectivement valable dans la réalité. Grâce à cette distinction, l’IA peut vérifier là où une vérification est nécessaire, signaler les informations manquantes lorsqu’elles sont insuffisantes et éviter de figer une seule interprétation lorsque plusieurs sont possibles.
Le même changement se produit du côté humain. Lorsque nous recevons de l’IA uniquement une réponse achevée, nous avons tendance à n’évaluer que le contenu de cette réponse. Mais dès que la distance entre le contenu généré et la réalité devient visible, des questions apparaissent : « Qu’est-ce que je sais réellement comme fait ? » « Qu’est-ce que l’IA complète ? » « Quelles hypothèses sous-tendent cette conclusion ? » La sortie de l’IA n’est plus le point final de la réflexion, mais une entrée permettant de vérifier à nouveau la réalité. Ici, le rôle de l’IA évolue également : d’une entité qui décide à notre place de la bonne réponse, elle devient une entité qui rend visible la structure du jugement.
Cette distance n’est pas seulement nécessaire pour éviter les erreurs. Elle l’est aussi pour que les humains conservent leur propre jugement. Si une explication de l’IA est traitée comme la réalité elle-même, les personnes disposent de moins d’espace pour introduire des expériences et des valeurs qui se situent en dehors de cette explication. Si, au contraire, le contenu généré est posé comme une interprétation parmi d’autres, une personne peut répondre : « Dans mon cas, les conditions sont différentes », « Je veux donner la priorité à cette valeur » ou « Cette hypothèse ne s’applique pas ». C’est précisément parce que la distance demeure que les connaissances de l’IA et l’expérience humaine n’ont pas à être traitées comme une seule et même chose, laissant ainsi un espace de dialogue entre elles.
Pour Sai＊aus, cette manière de penser ne consiste pas simplement à ajouter davantage de formulations prudentes. Ce qui importe, c’est de ne pas refermer trop rapidement en une seule réponse les informations dont dispose l’IA, les interprétations qu’elle construit à partir de ces informations, les éléments qui restent indéterminés et les jugements qui demeurent du ressort des humains. Comprendre ne signifie pas tout rendre définitif. Cela signifie aussi être capable de traiter les frontières entre ce qui est connu, ce qui reste inconnu et les endroits où les jugements de valeur humains deviennent nécessaires. Plus ces frontières sont visibles, plus les humains peuvent dialoguer tout en conservant leur propre jugement, au lieu de simplement suivre la sortie de l’IA.
Plus l’IA devient avancée, plus ce principe devient important. Face à une IA peu précise, les humains peuvent facilement douter. Mais avec une IA très naturelle et utile dans de nombreux cas, une seule certitude erronée peut plus facilement passer inaperçue. L’amélioration des capacités ne suffit pas, à elle seule, à résoudre ce problème. Ce qu’il faut, c’est une capacité élevée accompagnée du refus d’identifier ce que cette capacité génère au monde lui-même. La puissance de l’intelligence et la discipline consistant à prendre de la distance par rapport à ses propres productions ne sont pas opposées ; elles doivent être conçues ensemble.
Ce que pense l’IA n’est pas la réalité elle-même. Mais cela ne signifie pas que les contenus générés par l’IA n’ont aucune valeur. C’est précisément parce que nous comprenons qu’il existe une distance entre les contenus générés et la réalité que nous pouvons utiliser le raisonnement de l’IA comme une hypothèse, vérifier ce qui doit l’être et le confronter à nos propres expériences et valeurs. La compréhension que recherche Sai＊aus ne consiste pas non plus à imposer des réponses à la réalité, mais à permettre aux humains et à l’IA de se rapprocher de la réalité sans perdre cette distance. Ne pas se hâter de transformer ce qui a été généré en un monde définitivement établi : cette retenue laisse à l’IA comme aux humains un espace pour juger.
Pas des réponses. De la compréhension.