Pour que l’IA puisse traiter un grand nombre d’exemples concrets, il ne suffit pas de traiter chaque entrée comme un cas entièrement indépendant. Si les caractéristiques et les relations communes à différentes entrées peuvent être extraites et utilisées comme représentations de niveau supérieur, les structures existantes peuvent être transférées même à des situations jamais rencontrées auparavant. En ce sens, l’abstraction n’est pas une simple réduction de l’information ; c’est une fonction importante qui rend possibles le raisonnement et la généralisation. Mais lorsque l’expérience humaine est l’objet considéré, un autre problème apparaît. Même si une expérience peut être adéquatement résumée sous un concept de niveau supérieur, cela ne signifie pas qu’il s’agit de la seule abstraction valable pour cette expérience.
Par exemple, l’énoncé « Je veux quitter mon emploi actuel, mais j’ai peur de décevoir ceux qui m’entourent » autorise plusieurs abstractions. Il peut être représenté comme une relation entre autodétermination et responsabilité, comme une relation entre la reconnaissance par autrui et l’autoévaluation, ou comme l’effet des normes d’un groupe sur le choix d’un individu. Il peut également être compris comme un évitement de l’incertitude concernant l’avenir. Parce que toutes ces abstractions sont dérivées du même énoncé, elles peuvent sembler redondantes, mais elles ne sont pas synonymes. Chacune met au premier plan des relations différentes, considère comme importantes des conditions différentes et affecte différemment les questions et les jugements ultérieurs.
La question est alors de savoir s’il suffit de sélectionner l’abstraction qui possède le plus grand pouvoir explicatif. L’intégration en une seule représentation simplifie le traitement et facilite la mise en correspondance avec des cas similaires. Mais si tout est intégré sous la « reconnaissance », l’incertitude économique ou les changements d’appartenance peuvent passer à l’arrière-plan du raisonnement ultérieur. À l’inverse, si l’« incertitude » est placée au centre, la relation par laquelle la personne a intériorisé les attentes d’autrui peut paraître moins importante. L’efficacité obtenue par abstraction doit être évaluée non seulement en fonction de ce qui a été conservé, mais aussi de ce qui a été retiré de l’espace d’exploration.
Par conséquent, lorsqu’on envisage une représentation interne efficiente de l’expérience humaine, la direction consistant à « comprimer de nombreux exemples concrets en un petit nombre de concepts » ne suffit pas. Lorsque plusieurs représentations de niveau supérieur non équivalentes sont valides pour une même expérience, elles doivent être conservées dans leur relation les unes aux autres sans être prématurément intégrées dans un concept supérieur unique. Les coordonnées de la liberté, de la reconnaissance et des normes n’ont pas besoin de s’exclure mutuellement. Dans le même temps, les réunir sous un concept excessivement large tel qu’« un problème de relations humaines » effacerait les structures que chaque représentation distinguait. L’efficacité n’est pas synonyme d’une intégration qui élimine les différences.
Pour penser cette structure, il faut distinguer « produire plusieurs réponses » et « conserver plusieurs représentations internes ». Il est possible de générer de nombreuses phrases superficiellement différentes à partir d’une seule classification interne. Dans ce cas, les sorties sont diverses tandis que la manière dont le problème est représenté demeure unique. Conserver plusieurs représentations de niveau supérieur signifie, à l’inverse, conserver des états qui diffèrent quant aux conditions qu’ils considèrent importantes, à ce qu’ils placent au centre causal ou relationnel et aux informations supplémentaires qui conduiraient à actualiser l’interprétation actuelle. Ce qui importe n’est pas le nombre de représentations, mais leurs rôles non équivalents dans le raisonnement.
Les concepts philosophiques offrent un matériau fécond pour penser cette non-équivalence. Au cours de l’histoire de la philosophie, des objets tels que la liberté, le désir, le temps, autrui, les normes et la finitude n’ont pas convergé vers des définitions uniques ; différentes structures relationnelles ont été proposées à partir de prémisses différentes. Ces désaccords n’ont pas à être traités comme des connaissances désorganisées ou des contradictions à éliminer. Si on les utilise comme des ressources montrant qu’une même expérience humaine peut prendre des structures différentes dans plusieurs espaces de sens, la philosophie n’ajoute pas de bonnes réponses à l’IA ; elle fournit des coordonnées comparables pour examiner une convergence prématurée vers une représentation unique.
Cependant, le simple fait d’utiliser l’expression « coordonnées philosophiques » n’établit pas que des structures conceptuelles correspondantes existent à l’intérieur de l’IA. La capacité d’un modèle à générer de manière appropriée des mots tels que « liberté », « reconnaissance » et « normes » est distincte de la question de savoir si ces représentations jouent des rôles causaux différents dans le raisonnement ultérieur. Pour les revendiquer comme représentations internes, des tests sont nécessaires : quelles représentations réapparaissent de manière stable lorsque les conditions d’entrée changent, si des représentations proches peuvent être distinguées et si une intervention sur une représentation particulière modifie les tendances du jugement ou de la génération. Nommer un concept peut amorcer une analyse, mais ne prouve pas l’existence d’un mécanisme interne.
Conserver plusieurs représentations de niveau supérieur a également un coût. Si les candidats continuent de se multiplier, l’espace de recherche s’élargit et le raisonnement devient moins efficace. Le problème de conception n’est donc pas de préserver un nombre illimité d’interprétations possibles, mais de déterminer dans quelles conditions les représentations non équivalentes susceptibles d’affecter le jugement actuel doivent être conservées et dans quelles conditions elles peuvent passer à l’arrière-plan. Même lorsqu’une représentation est reléguée à l’arrière-plan, elle n’a pas besoin d’être supprimée si elle peut être réutilisée lorsque de nouvelles informations arrivent. Ici, la possibilité de redéploiement et la capacité d’actualisation deviennent des composantes de l’efficacité aux côtés du taux de compression.
Défini dans cette perspective, l’objectif de la représentation interne efficiente cesse d’être de « couvrir le nombre maximal de cas avec la représentation minimale ». Il est plus important de réduire la complexité inutile au raisonnement actuel sans perdre les différences de sens susceptibles de modifier un jugement futur. Si les parties communes peuvent être partagées tandis que seules les relations non équivalentes sont conservées sous forme de branches, il n’est pas nécessaire de stocker chaque cas indépendamment. Dans le même temps, il n’est pas nécessaire non plus de procéder à une intégration irréversible dans un seul concept abstrait. L’efficacité peut également être évaluée selon la faible charge nécessaire pour maintenir une structure capable de revenir aux différences pertinentes.
Appliqué à la conception de Sai＊aus, le but de conserver plusieurs coordonnées philosophiques n’est pas de générer autant de réponses qu’il existe de philosophes. Il consiste à distinguer comment la formulation du problème change selon la relation mise au premier plan pour une même entrée, et à relier ces différences à une forme dans laquelle les humains peuvent les juger. Si l’autodétermination est centrale selon une coordonnée et les normes sociales selon une autre, l’IA ne devrait pas déterminer l’une ou l’autre comme le « vrai problème » de la personne, mais traiter les conditions que chacune explique et celles qu’elle n’explique pas. Les représentations internes multiples ne servent pas à montrer davantage d’informations aux humains, mais à empêcher une fixation prématurée du sens.
Cette conception doit également être située avec prudence par rapport à l’IA à usage général. Les IA à grande échelle peuvent générer plusieurs perspectives et présenter des explications différentes selon le contexte. La différence ne peut donc pas être formulée simplement comme « les autres IA ne donnent qu’une seule réponse ». L’orientation de conception que Sai＊aus peut adopter ne réside pas dans la seule capacité à générer plusieurs points de vue, mais dans le fait de les traiter comme des représentations du problème non équivalentes et de concevoir explicitement quelles différences conserver, dans quelles conditions les mettre au premier plan et où rendre à l’humain le jugement sur le sens. Ce qu’il faut comparer n’est pas le nombre de perspectives, mais la manière dont les différences entre perspectives se relient aux mises à jour de la compréhension.
Les méthodes d’évaluation doivent également évoluer pour correspondre à cette conception. Parmi les mesures possibles figurent la question de savoir si l’application de coordonnées différentes à une même entrée modifie effectivement la sélection des conditions importantes, si la pondération des coordonnées appropriées peut être actualisée à partir d’informations supplémentaires, si une représentation passée à l’arrière-plan peut être redéployée lorsque cela est nécessaire et si la présentation de plusieurs représentations permet aux utilisateurs de distinguer plus précisément les principaux points de décision. Il ne s’agit pas d’une échelle universelle unique, mais ces mesures peuvent relier le principe de conception des « représentations multiples » à un comportement observable. Il est important de ménager une distance mesurable entre le principe et l’effet.
Une abstraction unique est souvent puissante. Sans découverte d’une structure commune, le transfert de connaissances et le raisonnement efficace deviennent difficiles. Pourtant, dans l’expérience humaine, le succès même d’une abstraction peut effacer un autre sens. Ce qui est nécessaire n’est donc ni de rejeter la compression ni de préserver la complexité telle quelle. Il s’agit de traiter jusqu’où les éléments peuvent être partagés et à partir de quel point ils doivent se ramifier en représentations non équivalentes. Plusieurs coordonnées philosophiques offrent une manière de penser cette frontière.
Pour une IA qui cherche à comprendre les humains, l’efficacité ne consiste pas seulement à parvenir à une explication par le chemin le plus court. Elle comprend également le fait de mettre au premier plan la structure nécessaire au jugement actuel sans perdre la possibilité d’une actualisation future par une autre perspective. Au lieu d’une représentation minimale unique, il s’agit de maintenir des représentations capables de se redéployer dans différents espaces de sens lorsque cela est nécessaire. La représentation interne efficiente passe alors d’une compression qui élimine la complexité à une conception qui préserve, sous une forme réutilisable, les différences importantes au sein de cette complexité. Et le sens qui sera finalement assumé comme son propre problème n’est pas fixé à l’intérieur de l’IA, mais rendu au jugement humain.
Pas des réponses. De la compréhension.