Per un’IA che supporta il dialogo a lungo termine, ricordare gli obiettivi passati presenta vantaggi evidenti. Se è possibile conservare un piano di apprendimento, un obiettivo lavorativo o un’aspirazione di vita deciso mesi prima, la persona non deve spiegare ogni volta tutto da capo. È inoltre possibile confrontare i giudizi passati con la situazione presente. Tuttavia, occorre distinguere tra «ricordare qualcosa» e «trattarlo come conoscenza che rimane valida ora».
Un obiettivo differisce per natura da un evento accaduto. Il fatto che «la persona abbia fatto questa dichiarazione in un determinato giorno» rimane un fatto relativo al passato anche se in seguito cambia idea. Al contrario, un’affermazione come «l’obiettivo di questa persona è X» contiene un’affermazione sullo stato presente. Se tale stato continua a essere utilizzato senza essere aggiornato semplicemente perché deriva da una vecchia dichiarazione, può essere storicamente accurato ma inesatto come conoscenza che rappresenta la persona nel presente.
Un obiettivo memorizzato necessita quindi del tempo oltre che del contenuto. Invece di conservare soltanto «Voglio avviare un’impresa», il sistema può rappresentare che «in un determinato momento, per particolari ragioni e in determinate condizioni, la persona aveva come obiettivo avviare un’impresa». Può quindi distinguere, alla luce delle azioni successive e delle risposte provenienti dalla realtà, se l’obiettivo rimane valido, richiede una nuova conferma oppure è stato esplicitamente modificato dalla persona.
Anche il rapporto con le ragioni è importante. Lo stesso obiettivo può significare cose diverse a seconda che la persona cerchi un modo di lavorare più libero, voglia aumentare il proprio reddito o desideri costruire un’impresa che risolva un problema specifico. Se l’obiettivo viene memorizzato ma le sue ragioni vanno perdute, il sistema non può sapere che cosa debba essere nuovamente convalidato quando cambiano le condizioni. Al contrario, se una ragione viene fissata come motivo assoluto, emerge un altro problema quando la comprensione successiva della persona cambia. Anche le ragioni devono essere trattate come informazioni associate a un momento e a un grado di certezza.
Aggiornare, in questo caso, non significa eliminare l’obiettivo passato. Se il record precedente viene cancellato quando l’obiettivo cambia, si perde il percorso che spiega perché il cambiamento è avvenuto. La comprensione a lungo termine beneficia di una storia che mostri ciò che la persona desiderava prima, quali esperienze hanno cambiato che cosa e come pensa ora. Il punto importante è conservare le vecchie informazioni senza confonderle con lo stato presente.
Occorre inoltre distinguere l’inferenza propria dell’IA da una dichiarazione esplicita della persona. Anche se l’IA deduce dai cambiamenti comportamentali che «l’interesse per l’obiettivo potrebbe diminuire», ciò è diverso dal fatto che la persona dica: «Ho deciso di abbandonare questo obiettivo». Se le due cose vengono memorizzate con lo stesso grado di certezza, un’inferenza può essere successivamente richiamata come fatto e orientare inutilmente la comprensione che la persona ha di sé.
La rappresentazione della conoscenza necessita quindi di distinzioni quali chi ha dichiarato l’informazione, quando è stata dichiarata, a quali esperienze o ragioni è collegata, se la sua validità presente è stata confermata e se si tratta di un’inferenza o di una scelta esplicita. Non è necessario conservare ogni dettaglio, ma non dovrebbero andare perdute le differenze che potrebbero modificare un giudizio successivo. La compressione non dovrebbe limitarsi a ridurre la quantità di informazioni; dovrebbe renderle gestibili preservando al contempo le relazioni necessarie.
Nella rappresentazione interna dell’efficienza di Sai＊aus, questo cambia la posizione dell’obiettivo. L’obiettivo non è un input fisso da cui inizia il ragionamento, ma un elemento il cui stato può cambiare attraverso l’esperienza umana. Mettendo in relazione le ragioni che sostengono l’obiettivo, le piccole azioni, le differenze restituite dalla realtà e i cambiamenti nella comprensione umana, il sistema può conservare il contesto necessario per riconsiderare se l’obiettivo attuale debba rimanere in vigore.
Questa progettazione non ha lo scopo di far cambiare frequentemente all’IA gli obiettivi umani. Piuttosto, impedisce che gli obiettivi passati continuino automaticamente a essere utilizzati come scopi presenti senza attribuire all’IA l’autorità di modificarli. Può indicare che è necessaria una nuova convalida, presentare la differenza tra passato e presente e restituire alla persona l’attribuzione finale di significato. Questo confine consente alla continuità della memoria e alla capacità umana di cambiare di coesistere.
Man mano che l’IA arriva a conoscere di più su un essere umano, l’accuratezza della sua conoscenza non può più essere misurata soltanto in base a quanto poco dimentica. Deve conservare accuratamente i sogni passati distinguendo al tempo stesso se siano ancora validi ora; mantenere gli obiettivi cambiati come una storia del cambiamento anziché sovrascrivere il passato; ed evitare di confondere l’inferenza dell’IA con la scelta umana. Una conoscenza che comprende una persona nel tempo richiede una struttura che tratti l’essere umano non come un ritratto fisso, ma come uno stato aggiornabile.
La domanda «I sogni del passato dovrebbero essere conservati?» non è quindi una scelta binaria tra salvare ed eliminare. Possono rimanere come storia, mentre la loro validità viene nuovamente verificata quando vengono utilizzati come scopi presenti. La memoria può così diventare materiale per comprendere come una persona è cambiata, anziché un meccanismo che la vincola al passato. La progettazione della conoscenza dell’IA a lungo termine deve rendere vere due cose contemporaneamente: non perdere il passato e non fissare il presente ad esso.
Non risposte. Comprensione.