Wanneer we AI een vraag stellen, kan het een antwoord geven zonder zichtbare aarzeling. Als de redenen en voorbeelden goed zijn geordend en het verloop natuurlijk is, kan de uitleg eruitzien alsof er iets corrects wordt gerapporteerd. Maar natuurlijke taal en inhoud die in de werkelijkheid is geverifieerd, zijn niet hetzelfde. AI kijkt niet noodzakelijk rechtstreeks naar de wereld die voor zich ligt om die in woorden om te zetten; het construeert een uitleg die bij de vraag past op basis van de informatie die het heeft gekregen en de kennis waarover het beschikt. Vanaf het begin bestaat er een afstand tussen wat AI genereert en wat er werkelijk gebeurt.
Deze afstand is geen probleem dat alleen bij AI voorkomt. Ook mensen geven betekenis aan gebeurtenissen die ze zien en horen, en verwarren die betekenis soms met de gebeurtenissen zelf. Als iemand bijvoorbeeld later antwoordt dan gewoonlijk, kunnen we denken: ‘Die persoon is boos.’ De late reactie kan worden waargenomen, maar zonder andere informatie kan niet worden vastgesteld of die persoon boos is. Toch vergeten we gemakkelijker de gevolgtrekking die we zelf ertussen hebben toegevoegd naarmate een interpretatie natuurlijker aanvoelt. Het probleem is niet het interpreteren zelf, maar het verheffen van een interpretatie tot de werkelijkheid zelf.
In een dialoog met AI kan deze verwarring nog gemakkelijker ontstaan. AI kan waargenomen feiten, algemene kennis en gevolgtrekkingen uit de context in één vloeiende tekst uitdrukken. Daardoor kan het moeilijk worden om te zien waar geverifieerde informatie eindigt en interpretatie begint. Vloeiendheid helpt bij het begrijpen, maar kan ook de grenzen tussen verschillende soorten informatie verbergen. Wat daarom van belang is, is niet dat we AI-tekst wantrouwen en niets geloven. Het gaat erom te onthouden dat zaken met verschillende graden van zekerheid binnen dezelfde tekst naast elkaar kunnen bestaan.
Wat hier nodig is, is een manier om de ‘indruk’ die in ons ontstaat te scheiden van het ‘oordeel’ dat we over die indruk vormen. Ook als iets op een bepaalde manier lijkt, hoeven we niet te besluiten dat het daarom ook werkelijk zo is. Door enige afstand te creëren, kunnen we de situatie ordenen als: ‘dit kan tot hier worden bevestigd’, ‘vanaf hier gaat het om interpretatie’ en ‘dit deel is nog onbekend’. Toegepast op onze relatie met AI wijst deze houding op een nieuwe manier om met door AI gegenereerde inhoud om te gaan: niet door die af te wijzen, maar door die te gebruiken terwijl we bekijken in welk stadium van kennis die zich bevindt.
Stel dat AI over een reisplan zegt: ‘Deze route is het meest geschikt.’ Zelfs als de reistijd en afstand zijn geverifieerd, bevat de conclusie ‘het meest geschikt’ oordelen over wat belangrijk is, zoals kosten, drukte, beloopbaarheid en de belasting van overstappen. De betekenis verandert ook afhankelijk van de vraag of de gebruiker met een klein kind reist of grote bagage bij zich heeft. Zelfs wanneer berekenbare informatie correct is, wordt de daaruit afgeleide beoordeling niet automatisch werkelijkheid. Dit verschil onderscheiden is een concrete manier om afstand te bewaren tot gegenereerde inhoud.
Afstand bewaren vermindert de waarde van AI niet. Het is juist een voorwaarde om nauwkeuriger gebruik te maken van waar AI goed in is. AI kan grote hoeveelheden informatie ordenen, mogelijke verklaringen vergelijken en verbanden laten zien die mensen mogelijk over het hoofd hebben gezien. Maar hoe groter dat vermogen wordt, hoe overtuigender de gegenereerde verklaringen kunnen zijn. Wanneer de overtuigingskracht toeneemt, is niet een binaire keuze tussen onvoorwaardelijk vertrouwen en volledig wantrouwen nodig, maar voldoende afstand om te vragen: ‘Waarop is deze uitleg gebaseerd, hoe zeker is zij, en wat is nog interpretatie?’
Vanuit dit perspectief hoeven we de ‘zelfreflectie’ van AI niet te zien als het in menselijke zin kijken in de eigen geest. Belangrijker is een discipline die voorkomt dat AI zijn eigen gegenereerde redeneringen en interpretaties onmiddellijk als vaststaande werkelijkheid behandelt. Het moet onderscheid blijven maken tussen een uitleg kunnen genereren en het daadwerkelijk gelden van die uitleg in de werkelijkheid. Met dat onderscheid kan AI verifiëren waar verificatie nodig is, aangeven waar informatie ontbreekt wanneer die onvoldoende is, en vermijden één interpretatie vast te leggen waar meerdere mogelijk zijn.
Dezelfde verandering vindt plaats aan de menselijke kant. Wanneer we van AI alleen een afgerond antwoord ontvangen, zijn we geneigd alleen de inhoud van dat antwoord te beoordelen. Maar zodra de afstand tussen gegenereerde inhoud en werkelijkheid zichtbaar wordt, ontstaan vragen: ‘Wat weet ik daadwerkelijk als feit?’ ‘Wat vult AI in?’ ‘Welke aannames liggen aan deze conclusie ten grondslag?’ De uitvoer van AI wordt dan niet het eindpunt van het denken, maar een ingang om de werkelijkheid opnieuw te controleren. Ook de rol van AI verandert hier: van een entiteit die namens ons het juiste antwoord bepaalt naar een die de structuur van het oordeel zichtbaar maakt.
Deze afstand is niet alleen nodig om fouten te vermijden. Hij is ook nodig zodat mensen hun eigen oordeel kunnen behouden. Als een uitleg van AI als de werkelijkheid zelf wordt behandeld, hebben mensen minder ruimte om ervaringen en waarden in te brengen die buiten die uitleg liggen. Als de gegenereerde inhoud daarentegen als één interpretatie wordt geplaatst, kan iemand antwoorden: ‘In mijn geval zijn de omstandigheden anders’, ‘Ik wil deze waarde voorrang geven’ of ‘Die aanname is niet van toepassing.’ Juist doordat er afstand blijft bestaan, hoeven AI-kennis en menselijke ervaring niet als hetzelfde te worden behandeld en blijft er ruimte voor dialoog tussen beide.
Voor Sai＊aus betekent deze manier van denken niet simpelweg dat er meer voorzichtige formuleringen worden toegevoegd. Van belang is dat de informatie waarover AI beschikt, de interpretaties die het daaruit opbouwt, de delen die nog niet vaststaan en de oordelen die aan mensen worden overgelaten, niet te snel in één antwoord worden afgesloten. Begrijpen betekent niet alles definitief maken. Het betekent ook kunnen omgaan met de grenzen tussen wat bekend is, wat nog onbekend is en waar menselijke waardeoordelen noodzakelijk worden. Hoe zichtbaarder die grenzen zijn, hoe beter mensen in dialoog kunnen gaan terwijl ze hun eigen oordeel behouden, in plaats van alleen de uitvoer van AI te volgen.
Hoe geavanceerder AI wordt, hoe belangrijker dit principe wordt. Bij AI met een lage nauwkeurigheid zullen mensen er misschien gemakkelijk aan twijfelen. Maar bij AI die zeer natuurlijk overkomt en in veel gevallen nuttig is, kan één onjuiste zekerheid gemakkelijker over het hoofd worden gezien. Alleen het verbeteren van het vermogen lost dit probleem niet op. Nodig is een groot vermogen, gecombineerd met de weigering om wat dat vermogen genereert gelijk te stellen aan de wereld zelf. De kracht van intelligentie en de discipline om afstand te nemen van de eigen gegenereerde uitvoer zijn geen tegenpolen; ze moeten samen worden ontworpen.
Wat AI denkt, is niet de werkelijkheid zelf. Maar dat betekent niet dat door AI gegenereerde inhoud geen waarde heeft. Juist omdat we begrijpen dat er afstand bestaat tussen gegenereerde inhoud en de werkelijkheid, kunnen we AI-redeneringen als hypothese gebruiken, verifiëren wat gecontroleerd moet worden en die vergelijken met onze eigen ervaringen en waarden. Het begrip dat Sai＊aus nastreeft, gaat evenmin om het opleggen van antwoorden aan de werkelijkheid, maar om mensen en AI die dichter bij de werkelijkheid komen zonder die afstand te verliezen. Niet haastig veranderen wat is gegenereerd in een vaststaande wereld: die terughoudendheid laat zowel AI als mensen ruimte om te oordelen.
Geen antwoorden. Begrip.