Aannames ter discussie stellen vergroot de vrijheid van het denken. Maar als we vragen: ‘Waarom is die aanname gekozen?’, kunnen we vervolgens vragen: ‘Welk criterium maakte dat die reden geldig leek?’, en daarna doorgaan met: ‘Welke gronden rechtvaardigden de keuze van dat criterium?’ In beginsel heeft de operatie waarbij een vraag één niveau omhoog wordt verplaatst geen eindpunt. Dit is geen probleem dat uitsluitend bij de filosofie hoort; het doet zich ook voor in samenwerking met AI. Als AI de aannames van een gebruiker ter discussie stelt en vervolgens blijft vragen naar de doelen en waardecriteria achter elk antwoord, kan de dialoog preciezer worden en tegelijk het vermogen verliezen om terug te keren naar oordeelsvorming en handelen.
Daarom kan denken op metaniveau niet eenvoudig worden opgevat als ‘hoe hoger het abstractieniveau, hoe beter’. Op objectniveau houden we ons bezig met concrete problemen, zoals wat we moeten kiezen, wat we moeten schrijven en welke handeling we moeten verrichten. Eén niveau hoger kunnen we de aannames en doelen onderzoeken die aan die oordelen ten grondslag liggen. Nog hoger kunnen we de criteria onderzoeken waarmee de aannames zelf worden geselecteerd. Maar elke stijging in abstractie brengt ook de kosten met zich mee van het verder verwijderd raken van de concrete situatie. De waarde van het metaniveau wordt niet bepaald door de hoogte ervan op zichzelf, maar door de vraag of het verschillen ontdekt die op objectniveau onzichtbaar waren en die verschillen kan terugbrengen naar concrete oordeelsvorming.
Hieruit ontstaat het probleem van stopvoorwaarden. De eerste voorwaarde is of de overgang naar het metaniveau een nieuw verschil heeft blootgelegd dat de keuze op objectniveau kan veranderen. Stel dat we niet zeker weten welk van twee plannen we moeten kiezen en dat onderzoek van het doel op een hoger niveau laat zien dat slechts één ervan niet strookt met het oorspronkelijke doel. In dat geval heeft de overgang naar het metaniveau waarde voor de oordeelsvorming. Omgekeerd geldt dat als nog een niveau hoger gaan noch de beoordeling van de opties verandert, noch een nieuwe informatiebehoefte creëert, die stijging misschien weinig meer doet dan hetzelfde probleem in andere bewoordingen beschrijven in plaats van het begrip te verdiepen.
De tweede voorwaarde betreft de verhouding tussen de waarde van informatie die door verder onderzoek op metaniveau wordt verkregen en de kosten van het uitstellen van een oordeel. Een beslissing met ernstige gevolgen voor de veiligheid en een alledaagse keuze die gemakkelijk kan worden teruggedraaid, vereisen niet dezelfde diepgang van onderzoek. Wanneer uitkomsten onomkeerbaar zijn, de reikwijdte van de gevolgen groot is en de onzekerheid hoog, is er reden om aannames en beoordelingscriteria grondiger te onderzoeken. In een situatie waarin we iets tegen lage kosten kunnen proberen, het resultaat kunnen observeren en het kunnen bijstellen, kan informatie die door kleinschalig handelen wordt verkregen echter waardevoller zijn dan wachten op volledige verificatie van de premissen. Stopvoorwaarden hangen daarom niet alleen af van abstracte juistheid, maar ook van omkeerbaarheid en informatiewaarde.
De derde voorwaarde is verantwoordelijkheid. Naar het metaniveau gaan is geen operatie om de verantwoordelijke actor te laten verdwijnen. Zelfs als we begrijpen dat ‘waardecriteria zelf relatief zijn’ of dat ‘er alternatieve aannames bestaan’, moet iemand in de werkelijke situatie nog steeds een oordeel vellen en de gevolgen ervan dragen. Meerdere waardesystemen kunnen vergelijken is iets anders dan een oordeel onbeperkt kunnen uitstellen. Sterker nog, hoe volwassener het denken op metaniveau wordt, des te belangrijker wordt het om te begrijpen dat het eigen oordeel niet de enige noodzakelijke conclusie is en toch te kunnen uitleggen waarom onder deze omstandigheden voor deze keuze wordt gekozen.
In dialoogsystemen waarin AI is opgenomen, wordt dit stopprobleem nog belangrijker. AI kan in korte tijd aannames, tegenvoorbeelden en alternatieve beoordelingsassen toevoegen die mensen niet hadden overwogen. Dat vermogen ondersteunt denken op metaniveau, maar kan tegelijk het aantal kwesties dat onderzocht kan worden vrijwel onbeperkt vergroten. Als elke extra kwestie het gevoel oproept dat ‘er misschien nog iets is dat we niet hebben overwogen’, ontstaat de paradox dat krachtigere AI het moeilijker maakt om een beslissing af te ronden. Goede ondersteuning bestaat daarom niet uit het presenteren van het maximale aantal kwesties, maar uit het onderscheiden welke nog niet onderzochte zaken het oordeel ten opzichte van het huidige doel zouden kunnen veranderen.
Hier moet de asymmetrie tussen mensen en AI behouden blijven. AI kan aanvullende perspectieven genereren, tegenstrijdigheden tussen aannames identificeren en gevolgen vergelijken wanneer omstandigheden veranderen. Maar welk verlies we aanvaarden, welke waarde we prioriteit geven en wanneer we tot handelen overgaan terwijl onzekerheid blijft bestaan, worden niet alleen bepaald door de hoeveelheid redenering. AI kan voorstellen om te stoppen, maar neemt daarmee niet automatisch de verantwoordelijkheid op zich om dat stoppunt te rechtvaardigen. Menselijke handelingsbekwaamheid in oordeelsvorming blijkt niet uit het vermogen om meer kwesties dan AI te overwegen, maar ook uit het trekken van de grens tussen voldoende onderzoek en handelen.
Als stopvoorwaarden echter tot vaste regels worden gemaakt, ontstaat een ander probleem. Formele criteria zoals ‘stop na drie niveaus te hebben doordacht’ of ‘twee tegengestelde standpunten zijn genoeg’ negeren de ernst en onzekerheid van het probleem. Het gaat niet om het aantal niveaus, maar om de gevoeligheid van het huidige oordeel. Zou een verandering van een aanname de conclusie veranderen? Zou nieuw bewijs de beoordeling kunnen omkeren? Is er een belanghebbende over het hoofd gezien? Kan de handeling achteraf worden gecorrigeerd? Wanneer de gevoeligheid voor zulke voorwaarden laag wordt, kan ook worden aangenomen dat de marginale waarde van een verdere verhoging van het abstractieniveau afneemt.
Ook voor Sai＊aus ligt hierin de betekenis van het hebben van een metaniveau. Het gaat er niet om de dialoog naar eindeloze zelfanalyse te sturen, maar om ongemak dat op objectniveau ontstaat tijdelijk naar het metaniveau te brengen, vast te stellen of het verschil in aannames, doelen of beoordelingscriteria ligt en het resultaat vervolgens terug te brengen naar een concrete vraag. Niet de stijging is van belang, maar de heen-en-weerbeweging. Wanneer die beweging werkt, wordt denken op metaniveau geen extra reflectie die handelen vertraagt, maar een mechanisme dat de representatie van het oordeel alleen voor zover nodig herordent en opnieuw met de werkelijkheid verbindt.
Vanuit dit perspectief kan denken op metaniveau in ten minste twee richtingen mislukken. De ene is vast blijven zitten op objectniveau en dezelfde vraag blijven optimaliseren, zelfs nadat de aannames zijn veranderd. De andere is aannames blijven bevragen totdat het feit dat elk oordeel slechts voorlopige gronden heeft een reden wordt om niet te handelen. Het eerste is starheid van denken; het tweede is een oneindige regressie van denken. Wat nodig is, is niet een eenvoudig compromis tussen beide, maar een variabele structuur die zich afhankelijk van de aard van het probleem tussen objectniveau en metaniveau kan bewegen.
Als we die structuur beoordelen, is alleen vragen ‘Hoe diep hebben we nagedacht?’ onvoldoende. We moeten nagaan of de overgang naar het metaniveau een belangrijke aanname heeft blootgelegd, voorwaarden heeft verduidelijkt die het oordeel zouden kunnen veranderen, de plaatsen van onzekerheid van elkaar heeft gescheiden, de redenen voor de uiteindelijke keuze uitlegbaar heeft gemaakt en een terugkeer naar concreet handelen op het noodzakelijke moment mogelijk heeft gemaakt. De kwaliteit van denken op metaniveau moet niet worden beoordeeld aan de hand van de hoogte van de abstractie, maar aan de hand van de vraag of het begrip voortbrengt dat op objectniveau niet beschikbaar was en dat begrip opnieuw met de oordeelsvorming verbindt.
Het vermogen om één niveau hoger te denken is belangrijk, maar de volwassenheid van intelligentie kan niet alleen daardoor worden gedefinieerd. Net zo belangrijk als onze eigen aannames kunnen bevragen en zelfs de aannames achter dat bevragen kunnen onderzoeken, is weten waar we moeten stoppen met vragen stellen, een voorlopig begrip moeten aanvaarden en naar de werkelijkheid moeten terugkeren. Het metaniveau is geen toevluchtsoord voor het denken, maar een tijdelijke positie van waaruit het objectniveau in een andere vorm opnieuw kan worden beschouwd. Omhooggaan, een verschil vinden en terugkeren: pas wanneer die cyclus tot stand komt, wordt denken op metaniveau geen eindeloze zelfreflectie, maar een praktische structuur waarmee mensen en AI hun oordeel kunnen bijstellen.
Geen antwoorden. Begrip.