Se a un’IA viene assegnato l’obiettivo di «raddoppiare le vendite», essa può scomporre le misure necessarie per raggiungerlo e confrontare le opzioni tenendo conto delle risorse e del tempo. Ma anche lo stesso obiettivo di raddoppiare le vendite può avere ragioni diverse. È necessario per mantenere sostenibile l’attività, per finanziare un nuovo investimento, per raggiungere un concorrente o perché la crescita dell’organizzazione stessa è considerata un successo? Il significato dell’obiettivo cambia con la ragione.
Se viene elaborato soltanto l’obiettivo, queste differenze vengono spinte fuori dalla stessa funzione obiettivo. L’IA può cercare razionalmente modi per avvicinarsi al numero dato senza poter trattare il motivo per cui quel numero è necessario. Quando cambiano le condizioni del mondo reale, può mantenere lo stesso obiettivo modificando soltanto i mezzi. Tuttavia, se la ragione che sosteneva l’obiettivo è venuta meno, può essere necessario rivalidare l’obiettivo prima di migliorare i mezzi.
Supponiamo che la ragione per aumentare le vendite fosse «garantire un profitto sufficiente a preservare l’occupazione attuale». In seguito, i costi fissi diminuiscono e l’occupazione può essere mantenuta con vendite sostanzialmente inferiori. La necessità dell’obiettivo di raddoppiare le vendite è allora cambiata. Se, invece, la ragione fosse «creare fondi di investimento per portare il servizio in una nuova regione», lo stesso cambiamento delle condizioni potrebbe condurre a un giudizio diverso. La validità di un obiettivo non può essere valutata a partire dal solo obiettivo.
«Perché proprio questo obiettivo?» non è quindi una spiegazione supplementare, ma parte della struttura del ragionamento. Se obiettivi e ragioni vengono messi esplicitamente in relazione, diventa possibile vedere quale assunzione è stata influenzata dalla realtà dopo l’azione. Se la ragione permane, sostiene la prosecuzione dell’obiettivo; se cambia, può innescare una rivalidazione. La ragione non dovrebbe essere semplicemente chiesta una volta e poi fissata. Anch’essa deve essere trattata come qualcosa che può cambiare nel tempo e con l’esperienza.
Inoltre, le persone non sono sempre in grado di spiegare pienamente le proprie ragioni fin dall’inizio. Qualcuno può dire di «voler crescere», ma attraverso il dialogo e l’azione può emergere che desidera più tempo libero, il riconoscimento degli altri o un impatto sociale più ampio. Se l’IA fissa la prima spiegazione come il vero motivo, la comprensione emersa successivamente verrà trattata come un’eccezione.
Il ruolo del ragionamento, in questo caso, non è indovinare un motivo umano nascosto. Consiste nell’organizzare le discrepanze tra l’obiettivo e la ragione dichiarati, le reazioni che emergono dopo l’azione e i cambiamenti delle condizioni, affinché la persona possa riformulare la ragione. Invece di formulare la diagnosi «ciò che desidera davvero è il riconoscimento», l’IA può chiedere: «Inizialmente ha indicato la crescita come ragione, ma le sue scelte recenti danno priorità al tempo libero. Questa differenza incide sull’obiettivo?».
Non si tratta neppure di rendere il ragionamento infinitamente profondo. Se ogni piccolo obiettivo viene sottoposto a un’indagine senza fine sulle sue ragioni, agire diventa impossibile. È necessario un trattamento più approfondito nei casi in cui ricontrollare la ragione potrebbe cambiare il giudizio, per esempio quando il costo di cambiare obiettivo è elevato, l’impatto a lungo termine è grande o la realtà ha restituito una differenza importante. Le risorse di ragionamento dovrebbero essere allocate in base all’importanza e all’incertezza dello scopo.
Anche nella Rappresentazione Interna dell’Efficienza di Sai＊aus è utile mettere in relazione, nella misura necessaria, «ciò che la persona vuole fare» con «perché vuole farlo». Conservare soltanto un obiettivo compatto riduce l’elaborazione, ma fa perdere i fondamenti necessari per verificarne in seguito la validità. Neppure conservare ogni dettaglio di contesto è la soluzione. La progettazione deve preservare le ragioni e le assunzioni che potrebbero cambiare un giudizio futuro, comprimendo al tempo stesso ciò che non è necessario mantenere.
Per un’IA che supporta il raggiungimento degli obiettivi, è importante comprendere con precisione lo scopo assegnato. Ma se gli scopi umani possono cambiare, l’oggetto della comprensione non può essere soltanto la formulazione dell’obiettivo. Solo rappresentando anche quali ragioni sostengono l’obiettivo e quali cambiamenti delle condizioni richiederebbero una rivalidazione è possibile ricondurre allo scopo la realtà successiva all’azione.
Chiedere «perché proprio questo obiettivo?» prima di ottimizzare non è soltanto un modo per mettere in dubbio l’obiettivo. Può anche rendere più chiare le ragioni per proseguirlo. Se l’azione rafforza la ragione, l’obiettivo diventa più fondato di prima. Se la ragione cambia, l’obiettivo può essere riaperto. Il ragionamento avanzato non consiste soltanto nel raggiungere rapidamente uno scopo dato; consiste anche nel distinguere le condizioni in cui quello scopo può rimanere fisso da quelle in cui dovrebbe essere nuovamente interrogato.
Non risposte. Comprensione.