Om menselijke doelen hervalideerbaar te maken, is allereerst een aanleiding nodig om te beoordelen dat ‘de persoon is veranderd’. Maar dit is geen eenvoudig detectieprobleem. Mensen kunnen door vermoeidheid of tijdelijke emoties anders gaan spreken, een oordeel herzien nadat zij nieuwe informatie hebben ontvangen, of een verandering van waarden op langere termijn doormaken. Als al deze gevallen als hetzelfde soort verandering worden behandeld, zal AI de toestand van de mens te agressief bijwerken.
Stel dat iemand met een langetermijndoel om te leren na één dag van mislukking zegt: ‘Ik wil dit niet meer doen.’ Als alleen die uitspraak het doel ongeldig maakt, kan tijdelijke ontmoediging worden aangezien voor een langdurige verandering van intentie. Omgekeerd kan een wezenlijke verandering als ruis worden weggegooid als het oorspronkelijke doel wordt behouden terwijl uitspraken en handelingen die een andere waarde voorrang geven zich maandenlang hebben herhaald.
Daarom moeten ten minste ‘waargenomen reactie’, ‘de eigen interpretatie van de persoon’, ‘bestendigheid door de tijd heen’ en ‘implicaties voor het doel’ van elkaar worden gescheiden. Waargenomen reacties omvatten uitspraken, keuzes en gevoelens die na een handeling worden gerapporteerd. De interpretatie van de persoon betreft hoe diegene deze reacties begrijpt. Bestendigheid vraagt of een vergelijkbare tendens blijft bestaan wanneer de omstandigheden veranderen. Implicaties voor het doel vormen een afzonderlijke beoordeling van de vraag of deze factoren daadwerkelijk de redenen of aannames veranderen die het huidige doel dragen.
Deze scheiding is nodig omdat AI de innerlijke toestand van een mens niet rechtstreeks kan waarnemen. AI kan alleen werken met informatie die op een of andere manier naar buiten is gebracht, zoals wat iemand verwoordt, welke handelingen diegene kiest en welke resultaten diegene deelt. Elke gevolgtrekking hieruit dat ‘de waarden van de persoon zijn veranderd’ bevat onzekerheid. Als die gevolgtrekking als feit wordt opgeslagen, kan het door het systeem zelf gecreëerde beeld van de persoon latere dialogen sturen en een terugkoppelingslus creëren die dat beeld verder versterkt.
Tegelijkertijd is een ontwerp dat alles als onzeker behandelt en niets bijwerkt eveneens ontoereikend. Als iemand herhaaldelijk zegt dat de situatie nu anders is, diens keuzes zijn veranderd en de redenen die het eerdere doel ondersteunden niet langer gelden, moet dat verschil terug in de dialoog worden gebracht. Het gaat er niet om de verandering automatisch te bevestigen, maar om haar weer te geven als een toestand die hernieuwde bevestiging vereist.
Hier is het nuttig om verandering niet te sterk samen te persen tot één getal of kenmerk. Een label als ‘de motivatie is afgenomen’ kan geen onderscheid maken tussen vermoeidheid, ontevredenheid over de methode of verminderde belangstelling voor het doel zelf. Dezelfde oppervlakkige reactie kan verschillende betekenissen hebben. Om die reactie te verbinden met hervalidatie van het doel, moet het systeem relationele informatie bewaren over wat mogelijk is veranderd en die met passende vragen kunnen ontleden.
Ook het moment waarop AI vragen stelt, is belangrijk. Als elke emotionele fluctuatie ertoe leidt dat het doel ter discussie wordt gesteld, wordt de dialoog instabiel. Als zelfs een opeenstapeling van duidelijke veranderingen nooit tot heroverweging leidt, raakt het oude doel gefixeerd. Redelijkere aanleidingen voor hervalidatie combineren meerdere aanwijzingen: een aanhoudende discrepantie tussen eerdere redenen en huidige keuzes, het wegvallen van een belangrijke aanname door ervaringen in de werkelijke wereld, of een expliciete verandering in waardeoordeel die door de persoon wordt uitgesproken.
Zelfs wanneer meerdere aanwijzingen samenvallen, hoeft AI niet de definitieve uitspraak te doen dat ‘de persoon is veranderd’. In plaats daarvan kan AI het verschil voorleggen: ‘Eerder koos u dit doel om deze reden, maar in recente ervaringen lijkt u meer gewicht toe te kennen aan een andere waarde. Hoe begrijpt u dat verschil?’ Dit behoudt de menselijke handelingsvrijheid beter. Het doel van detectie is niet om een beeld van de persoon definitief vast te leggen, maar om een toestand te creëren waarin de persoon de eigen verandering kan onderzoeken.
Deze grens is belangrijk voor het begrijpen van mensen binnen Sai＊aus. Als AI niet met menselijke verandering kan omgaan, wordt langetermijnbegrip een fixatie op het verleden. Als AI verandering te stellig beweert, sluit het de persoon op in de gevolgtrekking van het systeem. Nodig is dat signalen van verandering behouden blijven, dat gevolgtrekkingen worden onderscheiden van het eigen begrip van de persoon en dat het verschil wordt omgezet in een vraag voor hervalidatie.
Er is geen enkel punt waarop AI zou moeten ‘detecteren’ dat een mens is veranderd. Noch een reactie na een handeling, noch alleen een verandering in formulering is voldoende. De mogelijkheid van verandering moet geleidelijk worden behandeld door rekening te houden met contact met de werkelijkheid, de interpretatie van de persoon, bestendigheid door de tijd heen en de relatie tot de redenen die het eerdere doel ondersteunden. AI heeft niet het vermogen nodig om de innerlijke toestand van een persoon correct te verkondigen. AI heeft representaties en dialoogstructuren nodig die verandering noch te snel bevestigen, noch over het hoofd zien.
Geen antwoorden. Begrip.