Voor AI die langdurige dialoog ondersteunt, heeft het onthouden van vroegere doelen duidelijke voordelen. Als een maanden eerder vastgesteld leerplan, werkdoel of levenswens kan worden bewaard, hoeft de persoon niet telkens alles opnieuw vanaf het begin uit te leggen. Eerdere oordelen kunnen ook met de huidige situatie worden vergeleken. Toch moeten ‘iets onthouden’ en ‘het behandelen als kennis die nu nog geldig is’ van elkaar worden onderscheiden.
Een doel verschilt naar zijn aard van een gebeurtenis die heeft plaatsgevonden. Het feit dat ‘de persoon op een bepaalde dag deze uitspraak deed’ blijft een feit over het verleden, ook als de persoon later van gedachten verandert. Daarentegen bevat een uitspraak als ‘het doel van deze persoon is X’ een bewering over de huidige toestand. Als die toestand uitsluitend op basis van een oude uitspraak zonder actualisering blijft worden gebruikt, kan hij historisch correct zijn en toch onjuist als kennis die de persoon nu representeert.
Een opgeslagen doel heeft daarom naast inhoud ook een tijdsdimensie nodig. In plaats van alleen ‘Ik wil een bedrijf starten’ te bewaren, kan het systeem weergeven dat ‘de persoon op een bepaald moment, om bepaalde redenen en onder bepaalde voorwaarden, het starten van een bedrijf als doel had’. Vervolgens kan het, in het licht van latere handelingen en reacties uit de werkelijkheid, onderscheiden of het doel nog geldig is, opnieuw moet worden bevestigd of expliciet door de persoon is gewijzigd.
Ook de relatie met redenen is belangrijk. Hetzelfde doel kan verschillende dingen betekenen, afhankelijk van de vraag of de persoon een vrijere manier van werken zoekt, het inkomen wil verhogen of een bedrijf wil opbouwen dat een specifiek probleem oplost. Als het doel wordt opgeslagen maar de redenen ervoor verloren gaan, kan het systeem niet weten wat opnieuw op geldigheid moet worden getoetst wanneer omstandigheden veranderen. Omgekeerd ontstaat een ander probleem als een reden als absoluut motief wordt vastgezet en het latere begrip van de persoon verandert. Ook redenen moeten worden behandeld als informatie met een tijdstip en een mate van zekerheid.
Actualiseren betekent hier niet dat het vroegere doel wordt verwijderd. Als het eerdere record wordt gewist wanneer het doel verandert, gaat het verloop verloren dat verklaart waarom die verandering plaatsvond. Langdurig begrip heeft baat bij een geschiedenis van wat de persoon eerder wilde, welke ervaringen wat veranderden en hoe die persoon nu denkt. Het belangrijke punt is oude informatie te bewaren zonder die met de huidige toestand te verwarren.
Ook de eigen gevolgtrekking van AI moet worden onderscheiden van een expliciete uitspraak van de persoon. Zelfs als AI uit gedragsveranderingen afleidt dat ‘de belangstelling voor het doel mogelijk afneemt’, is dat iets anders dan wanneer de persoon zegt: ‘Ik heb besloten dit doel op te geven.’ Als beide met dezelfde mate van zekerheid worden opgeslagen, kan een gevolgtrekking later als feit worden aangehaald en het zelfbegrip van de persoon onnodig sturen.
Kennisrepresentatie vereist daarom onderscheidingen zoals wie de informatie heeft geuit, wanneer die is geuit, met welke ervaringen of redenen zij verbonden is, of de huidige geldigheid ervan is bevestigd en of het om een gevolgtrekking of een expliciete keuze gaat. Niet elk detail hoeft te worden bewaard, maar verschillen die een later oordeel zouden kunnen veranderen, mogen niet verloren gaan. Compressie moet niet alleen de hoeveelheid informatie verminderen; zij moet de informatie hanteerbaar maken terwijl noodzakelijke relaties behouden blijven.
In de interne efficiëntieweergave van Sai＊aus verandert dit de positie van het doel. Het doel is geen vaste invoer van waaruit de redenering begint, maar een element waarvan de toestand door menselijke ervaring kan veranderen. Door de redenen die het doel ondersteunen, kleine handelingen, verschillen die vanuit de werkelijkheid terugkomen en veranderingen in menselijk begrip met elkaar in verband te brengen, kan het systeem de context behouden die nodig is om opnieuw te overwegen of het huidige doel van kracht moet blijven.
Dit ontwerp is niet bedoeld om AI menselijke doelen vaak te laten veranderen. Het voorkomt juist dat vroegere doelen automatisch als huidige doeleinden blijven gelden zonder AI de bevoegdheid te geven ze te veranderen. Het kan aangeven dat herbevestiging van de geldigheid nodig is, het verschil tussen verleden en heden tonen en de uiteindelijke betekenisgeving teruggeven aan de persoon. Die grens maakt het mogelijk dat continuïteit van het geheugen en het menselijke vermogen om te veranderen naast elkaar bestaan.
Naarmate AI meer over een mens te weten komt, kan de nauwkeurigheid van haar kennis niet langer alleen worden gemeten aan hoe weinig zij vergeet. Zij moet vroegere dromen nauwkeurig bewaren en tegelijk onderscheiden of die nu nog geldig zijn; veranderde doelen als een geschiedenis van verandering behouden in plaats van het verleden te overschrijven; en voorkomen dat gevolgtrekkingen van AI worden verward met menselijke keuzes. Kennis die een persoon door de tijd heen begrijpt, vereist een structuur die de mens niet als een vaststaand portret behandelt, maar als een actualiseerbare toestand.
De vraag ‘Moeten vroegere dromen worden opgeslagen?’ is daarom geen binaire keuze tussen bewaren en verwijderen. Ze kunnen als geschiedenis bewaard blijven, terwijl hun geldigheid opnieuw wordt gecontroleerd wanneer ze als huidige doeleinden worden gebruikt. Het geheugen kan dan materiaal worden om te begrijpen hoe een persoon is veranderd, in plaats van een mechanisme dat die persoon aan het verleden bindt. Langdurig AI-kennisontwerp moet twee dingen tegelijk waarmaken: het verleden niet verliezen en het heden er niet aan vastzetten.
Geen antwoorden. Begrip.