In onderzoek en implementatie ordent AI steeds vaker literatuur, genereert het hypothesen en presenteert het mogelijke verklaringen voor waarnemingen. Het probleem is niet alleen dat gegenereerde hypothesen onjuist kunnen zijn. Een logisch samenhangende verklaring kan in documenten worden opgenomen en vervolgens in later werk worden hergebruikt als een „reeds geverifieerde premisse”. Zodra de status op deze manier verandert, wordt de oorspronkelijke onzekerheid onzichtbaar en kan niet-geverifieerde redenering zich als feit opstapelen.
Om dit probleem te vermijden, moet de geldigheid van de redenering worden gescheiden van de voltooiing van de verificatie. Dat een conclusie logisch uit gegeven premissen volgt, is iets anders dan dat die premissen in werkelijkheid waar zijn. Evenzo betekent het feit dat een hypothese met meerdere waarnemingen verenigbaar is niet dat concurrerende hypothesen zijn uitgesloten. Hoe beter AI wordt in redeneren, des te belangrijker dit onderscheid wordt. Een hoge kwaliteit van redeneren mag geen reden worden om externe verificatie over te slaan.
Een manier om het voorlopige karakter te behouden, is de componenten van gegenereerde inhoud afzonderlijk vast te leggen. Maak onderscheid tussen wat door externe bronnen of waarnemingen wordt ondersteund, welke delen AI-redenering zijn, wat nog onbevestigd is en welke feiten zouden vereisen dat de hypothese wordt herzien of verworpen. Daardoor kan zelfs wanneer later alleen de tekst wordt gelezen, worden nagegaan in welk stadium de conclusie zich bevindt.
Falsificatievoorwaarden zijn bijzonder belangrijk. Als we alleen „bewijs dat deze hypothese ondersteunt” verzamelen, kan de verklaring zichzelf gemakkelijk versterken. Als vooraf wordt aangegeven welke waarneming de hypothese zou doen falen, verandert verificatie van werk dat een conclusie beschermt in werk dat haar beproeft. Wanneer AI meerdere hypothesen genereert, helpt het bovendien om voor elke hypothese de ondersteunende en falsificerende voorwaarden naast elkaar te zetten, zodat een keuze uitsluitend op basis van aannemelijkheid gemakkelijker wordt vermeden.
Bij de koppeling aan externe bronnen moet ook onderscheid worden gemaakt tussen het bestaan van een bron en het feit dat die bron de bewering ondersteunt. Zelfs als een citeerbare bron wordt gevonden, ondersteunt die de huidige bewering mogelijk niet rechtstreeks wanneer zij betrekking heeft op een ander onderwerp, een andere periode of andere omstandigheden. Onderzoeksondersteuning moet daarom niet alleen auditen of een bron bestaat, maar ook binnen welk bereik bewering en bewijs met elkaar overeenkomen. Onderbouwing is geen versiering; zij is een mechanisme om de reikwijdte van een bewering te beheersen.
Het voorlopige karakter zichtbaar maken betekent niet simpelweg „mogelijk” aan zinnen toevoegen. Als alles vaag wordt gemaakt, wordt het juist moeilijker om te onderscheiden wat sterk en wat zwak wordt ondersteund. Nodig is dat de formulering wordt aangepast aan de epistemische status. Bevestigde feiten, sterke maar niet-geverifieerde verklaringen, verkennende hypothesen en het opschorten van een oordeel wegens onvoldoende informatie moeten worden onderscheiden, waarbij aan elk de volgende noodzakelijke verificatie wordt gekoppeld.
Een audit moet niet alleen onderzoeken of een conclusie juist is, maar ook of die conclusie de juiste status heeft gekregen. Als een uitspraak geldig is als hypothese maar als vaststaand feit wordt vastgelegd, is dat een kwaliteitsprobleem dat losstaat van de vraag of de inhoud uiteindelijk waar of onwaar blijkt te zijn. Omgekeerd kan het behandelen van voldoende geverifieerde feiten met buitensporig zwakke formuleringen noodzakelijke beslissingen vertragen. Redenering voorlopig houden betekent niet altijd zwak formuleren; het betekent de kracht van de formulering afstemmen op de toestand van het bewijs.
Dit kader wordt nog belangrijker wanneer door AI gegenereerde inhoud invoer wordt voor latere AI-verwerking. Als het voorlopige karakter van een eerdere hypothese vóór hergebruik verloren gaat, kunnen niet-geverifieerde premissen met elke laag van redenering worden versterkt. Als de epistemische status bij de overdracht behouden blijft, kan latere verwerking beoordelen welke delen opnieuw moeten worden gecontroleerd. Verifieerbaarheid betreft niet alleen verklaringen voor mensen, maar ook het beheer van premissen in meerfasige AI-verwerking.
Bij onderzoeksondersteuning door Sai＊aus is het belangrijk om begrip niet af te sluiten in één voltooide verklaring, maar vast te houden hoe ver iets is geverifieerd, waar de redenering begint en waardoor het kan worden bijgewerkt. Hoe beter AI wordt in het genereren van hypothesen, des te meer is ook een registratiestructuur nodig die voorkomt dat die hypothesen later in feiten veranderen. Generatief vermogen en auditbaarheid moeten niet als afzonderlijke functies worden behandeld; ze moeten vanaf het moment van generatie met elkaar worden verbonden.
AI-redenering voorlopig houden is niet bedoeld om onderzoek te vertragen. Door duidelijk te maken welke conclusies naar de volgende verificatie moeten doorgaan, welke premissen opnieuw moeten worden gecontroleerd en welke hypothesen kunnen worden verworpen, kunnen verificatiemiddelen passend worden toegewezen. Het belangrijke onderscheid is dat tussen snel een conclusie produceren en snel een conclusie definitief vastleggen. Het eerste kan verkenning versnellen; het tweede kan de deur naar verificatie sluiten.
Reflectieve afstand voor AI die onderzoek ondersteunt, betekent niet dat het zijn eigen redenering eindeloos betwijfelt en niets beslist. Het betekent vastleggen van welk bewijs de redenering afhankelijk is, hoe ver die is geverifieerd en wat tot herziening zou leiden. Als geldigheid en verifieerbaarheid kunnen worden gescheiden terwijl ze verbonden blijven, kan door AI gegenereerde inhoud niet als een voldongen feit maar als een verifieerbare kandidaat voor kennis worden behandeld. Het behouden van die toestand vormt een basis om snelheid en betrouwbaarheid in onderzoek te combineren.
Geen antwoorden. Begrip.