Si l’on donne à une IA l’objectif de « doubler les ventes », elle peut décomposer les mesures nécessaires pour l’atteindre et comparer les options en tenant compte des ressources et du temps. Mais même un objectif identique de doublement des ventes peut reposer sur des raisons différentes. Est-ce nécessaire pour maintenir la viabilité de l’entreprise, pour financer un nouvel investissement, pour rattraper un concurrent, ou parce que la croissance de l’organisation est elle-même considérée comme une réussite ? Le sens de l’objectif change selon la raison.
Si seul l’objectif est traité, ces différences sont repoussées hors de la même fonction objectif. L’IA peut chercher rationnellement des moyens de se rapprocher du chiffre donné sans pouvoir traiter la raison pour laquelle ce chiffre est nécessaire. Lorsque les conditions du monde réel changent, elle peut conserver le même objectif tout en ne révisant que les moyens. Pourtant, si la raison qui soutenait l’objectif a disparu, revalider l’objectif peut devoir précéder l’amélioration des moyens.
Supposons que la raison d’accroître les ventes soit de « garantir un bénéfice suffisant pour préserver les emplois actuels ». Plus tard, les coûts fixes diminuent et l’emploi peut être maintenu avec des ventes sensiblement plus faibles. La nécessité de l’objectif consistant à doubler les ventes a alors changé. Si, en revanche, la raison était de « constituer des fonds d’investissement afin de fournir le service dans une nouvelle région », le même changement de conditions peut conduire à un jugement différent. La validité d’un objectif ne peut pas être évaluée à partir de l’objectif seul.
« Pourquoi cet objectif ? » n’est donc pas une explication complémentaire, mais une partie de la structure du raisonnement. Si les objectifs et les raisons sont explicitement mis en relation, il devient possible de voir quelle hypothèse a été affectée par la réalité après l’action. Si la raison demeure, elle soutient la poursuite de l’objectif ; si elle change, elle peut déclencher une revalidation. Il ne faut pas simplement demander la raison une fois pour toutes et la figer. Elle aussi doit être traitée comme quelque chose qui peut changer avec le temps et l’expérience.
En outre, les personnes ne peuvent pas toujours expliquer pleinement leurs raisons dès le départ. Quelqu’un peut dire qu’il « veut grandir », mais le dialogue et l’action peuvent faire apparaître qu’il souhaite davantage de temps libre, la reconnaissance d’autrui ou un impact social plus large. Si l’IA fixe la première explication comme étant le véritable motif, la compréhension apparue ultérieurement sera traitée comme une exception.
Le rôle du raisonnement ici n’est pas de deviner un motif humain caché. Il consiste à organiser les décalages entre l’objectif et la raison déclarés, les réactions qui apparaissent après l’action et les changements de conditions, afin que la personne puisse reformuler la raison. Plutôt que de diagnostiquer : « Ce que vous voulez vraiment, c’est de la reconnaissance », l’IA peut demander : « Au départ, vous avez donné la croissance comme raison, mais vos choix récents donnent la priorité au temps libre. Cette différence affecte-t-elle l’objectif ? »
Il ne s’agit pas non plus de rendre le raisonnement infiniment profond. Si chaque petit objectif fait l’objet d’une interrogation sans fin sur ses raisons, l’action devient impossible. Un traitement plus approfondi est nécessaire lorsque le réexamen de la raison pourrait modifier le jugement — par exemple, lorsque le coût d’un changement d’objectif est élevé, que l’impact à long terme est important ou que la réalité a renvoyé un écart important. Les ressources de raisonnement devraient être allouées en fonction de l’importance et de l’incertitude de la finalité.
Dans la représentation interne de l’efficacité de Sai＊aus, il est également utile de mettre en relation, dans la mesure nécessaire, « ce que la personne veut faire » et « pourquoi elle veut le faire ». Ne conserver qu’un objectif compact réduit le traitement, mais fait perdre les fondements nécessaires pour en tester ultérieurement la validité. Conserver tous les détails contextuels n’est pas non plus la solution. La conception doit préserver les raisons et les hypothèses susceptibles de modifier un jugement futur, tout en comprimant ce qui n’a pas besoin d’être conservé.
Pour une IA qui soutient l’atteinte d’objectifs, il est important de comprendre avec précision la finalité donnée. Mais si les finalités humaines peuvent changer, l’objet de la compréhension ne peut pas se limiter à la formulation de l’objectif. Ce n’est qu’en représentant aussi les raisons qui soutiennent l’objectif et les changements de conditions qui appelleraient une revalidation qu’il devient possible de ramener à la finalité la réalité observée après l’action.
Demander « pourquoi cet objectif ? » avant d’optimiser n’est pas seulement une manière de mettre l’objectif en doute. Cela peut aussi rendre plus claires les raisons de le poursuivre. Si l’action renforce la raison, l’objectif devient plus solidement fondé qu’auparavant. Si la raison change, l’objectif peut être rouvert. Un raisonnement avancé ne consiste pas seulement à atteindre rapidement une finalité donnée ; il consiste aussi à distinguer les conditions dans lesquelles cette finalité peut rester fixe de celles dans lesquelles elle doit être de nouveau interrogée.
Pas des réponses. De la compréhension.