Bij het lezen van een uitleg van AI is het niet ongewoon om te denken: ‘Als het zo specifiek is, zal het wel kloppen.’ Wanneer de tekst geen aarzeling vertoont, redenen in volgorde worden gepresenteerd en zelfs details worden uitgelegd, kan de inhoud eruitzien als betrouwbare informatie. Toch garandeert de natuurlijkheid van een uitleg niet dat die door externe feiten is bevestigd. AI kan niet alleen betrouwbare informatie, maar ook uit de context aangevulde gevolgtrekkingen in dezelfde stijl verwoorden. Het eerste wat mensen moeten onderscheiden, is dat goed geschreven tekst en zekerheid over de inhoud verschillende eigenschappen zijn.
Dit probleem is moeilijk omdat het niet voldoende is om alleen naar duidelijke fouten te zoeken. Als het grootste deel van een uitleg correct is en slechts één deel is afgeleid, kan die gevolgtrekking zekerder lijken doordat zij wordt omringd door correcte informatie. Zelfs als bijvoorbeeld de datum en plaats van een gebeurtenis zijn bevestigd, hoeft de reden waarom die gebeurtenis plaatsvond dat niet te zijn. Toch verdwijnt de grens tussen feit en verklaring gemakkelijk wanneer ze als één geheel worden gelezen. Aannemelijkheid kan niet uit de fout zelf voortkomen, maar uit het op hetzelfde vlak plaatsen van zaken met verschillende graden van zekerheid.
Menselijk begrip heeft een vergelijkbare eigenschap. We leiden situaties af uit fragmentarische informatie, en het dagelijks leven zou onmogelijk zijn zonder dat te doen. Het probleem is niet dat we gevolgtrekkingen maken. Het probleem is dat we vergeten dat we iets hebben afgeleid en het met dezelfde kracht behandelen als een waargenomen feit. In de dialoog met AI kunnen niet alleen de delen die AI heeft aangevuld, maar ook de betekenissen die de menselijke lezer er vervolgens aan toevoegt, elkaar overlappen. Een verkeerde herkenning ontstaat dus niet alleen binnen AI, maar ook tussen het genereren en het ontvangen.
Wat nodig is, is niet om elke zin van een teken van twijfel te voorzien, maar om de rollen van de inhoud afzonderlijk te behandelen. Als we onderscheid maken tussen ‘wat is bevestigd’, ‘de interpretatie die daaruit is afgeleid’ en ‘de gevolgtrekking die nog niet is geverifieerd’, kunnen gebruikers dezelfde tekst lezen en er anders over oordelen. Bevestigde feiten kunnen dienen als basis voor een volgend oordeel, interpretaties kunnen met alternatieven worden vergeleken en gevolgtrekkingen kunnen met aanvullende informatie worden gecontroleerd. Zodra de verschillen zichtbaar zijn, wordt een uitleg van AI niet één afgerond product, maar materiaal voor dialoog dat elementen met verschillende graden van zekerheid bevat.
Stel dat een online gekocht pakket ook na het geplande tijdstip nog niet is aangekomen. Als AI de bezorggeschiedenis bekijkt en zegt: ‘Verkeersdrukte is waarschijnlijk de oorzaak’, kan de vertraging zelf bevestigd zijn, maar of verkeersdrukte die heeft veroorzaakt is een afzonderlijke vraag. Slecht weer, vertraging bij het sorteren, adrescontrole en andere oorzaken zijn eveneens mogelijk. Als de waarneming ‘het is vertraagd’ wordt gescheiden van de gevolgtrekking ‘verkeersdrukte heeft de vertraging veroorzaakt’, kan de gebruiker zo nodig de informatie van de vervoerder controleren. Zonder die scheiding wordt een aannemelijke causale verklaring als feit vastgezet.
Dat AI haar eigen interpretatie als interpretatie kan blijven behandelen, heeft nog een andere betekenis: wanneer er nieuwe informatie binnenkomt, hoeft zij haar eerdere verklaring niet langer te verdedigen. Als een eerste gevolgtrekking als feit wordt behandeld, kan latere tegenstrijdige informatie in de rol van uitzondering worden gedwongen of kan de verklaring op onnatuurlijke wijze in stand worden gehouden. Als de eerste verklaring vanaf het begin als voorlopig wordt behandeld, is het bijwerken ervan in het licht van nieuwe informatie geen mislukking. Het is een normaal proces om de afstand tot de werkelijkheid te verkleinen.
Mensen hebben dezelfde ruimte nodig. Als AI aangeeft dat ‘dit een gevolgtrekking bevat’, kunnen gebruikers gemakkelijker hun eigen ervaring of aanvullende informatie inbrengen. Als zij informatie toevoegen zoals ‘die dag was er geen probleem met het weer’ of ‘de vervoerder stuurde een andere melding’, verandert de dialoog van het enkel accepteren van de eerste verklaring in het gezamenlijk controleren van de werkelijkheid. De onzekerheid van AI niet verbergen is niet alleen voorzichtigheid; het bewaart ook ruimte voor mensen om deel te nemen aan het vormen van begrip.
Voor Sai＊aus is het niet belangrijk om aannemelijke tekst af te zwakken. Het gaat erom zaken helder te ordenen en tegelijk grenzen te bewaren die door die ordening niet mogen verdwijnen. Als feiten en interpretaties, waarnemingen en gevolgtrekkingen, en geverifieerde en niet-geverifieerde elementen waar nodig van elkaar kunnen worden onderscheiden, hoeven vloeiendheid en voorzichtigheid geen tegenpolen te zijn. Het doel is niet om meer vage formuleringen te gebruiken om stellige uitspraken te vermijden, maar om de mate van zekerheid in een vorm te brengen waarmee mensen kunnen omgaan.
Vertrouwen in AI ontstaat niet noodzakelijk doordat zij altijd correct lijkt. Mensen kunnen haar output juist passend gebruiken wanneer de grens tussen wat bekend en onbekend is stabiel blijft. Wanneer er een fout optreedt, is correctie mogelijk als zichtbaar is waar een gevolgtrekking is binnengeslopen en wat opnieuw moet worden gecontroleerd. Aannemelijkheid niet in de plaats van waarheid stellen is geen regel om AI te wantrouwen; het is een regel om de juiste reikwijdte van vertrouwen vast te stellen.
Het verdiepen van begrip tussen AI en mensen vereist niet dat AI één correct wereldbeeld presenteert. Het vereist dat we kunnen delen waar een gegenereerde verklaring zich ten opzichte van de werkelijkheid bevindt. Betrouwbare feiten, aannemelijke interpretaties en gevolgtrekkingen die nog moeten worden geverifieerd, mogen niet als hetzelfde worden behandeld. Wanneer die afstand behouden blijft, kunnen mensen samen met AI verifiëren, bezwaar maken en bijwerken in plaats van door haar tekst te worden meegesleept. De basis van dialoog is niet het wegnemen van de kracht van aannemelijkheid, maar het moment niet uit het oog verliezen waarop die kracht zich als waarheid begint voor te doen.
Geen antwoorden. Begrip.