Wanneer AI een bepaalde optie aanbeveelt, levert de vraag ‘Waarom dacht je dat?’ een geordende uiteenzetting van redenen op. Het kan zeggen dat voorwaarde A prioriteit kreeg, dat optie B een bepaald nadeel heeft of dat deze keuze beter past bij doel C. Zulke uitleg is nuttig om gronden voor een oordeel met elkaar te vergelijken. Maar het feit dat de tekst leesbaar en samenhangend is, betekent niet dat die kan worden beschouwd als een rechtstreeks verslag van de verwerking die binnen de AI plaatsvond op weg naar het produceren van de uitvoer.
Ook tussen mensen onderling verwoorden we soms redenen nadat we hebben gehandeld. Een uitleg heeft waarde als een weergave waarmee iemand anders een oordeel kan onderzoeken, maar de verklarende uitspraak en de oorzaak zelf zijn niet hetzelfde. Bij AI is dit onderscheid nog belangrijker. Een gegenereerde uitleg is een uitvoer die uit de gegeven context is opgebouwd; het is geen volledige, voor mensen leesbare transcriptie van de complexe interne berekeningen van het model.
Dat betekent niet dat we moeten concluderen dat ‘uitleg van AI betekenisloos is’. Er zijn zaken die we via een uitleg kunnen onderzoeken: welke aannames expliciet worden gehanteerd, welke voorwaarden als belangrijk worden genoemd, hoe alternatieven worden vergeleken en of onzekerheid wordt erkend. Dat biedt mensen aanknopingspunten om de uitvoer te onderzoeken. Van belang is dat we de uitleg niet behandelen als ‘bewijs dat rechtstreeks onthult wat er binnenin gebeurt’, maar als een ‘externe weergave die kan worden onderzocht’.
Dit onderscheid is vooral belangrijk in onderzoek. Zelfs als we AI vragen de redenen voor een hypothese uit te leggen, bewijst die uitleg op zichzelf niet dat de hypothese juist is. We moeten de oorspronkelijke bronnen, waarnemingen, tegenbewijs en alternatieve verklaringen controleren. Het vermogen van AI om zelfverzekerd te schrijven staat los van de vraag of er voldoende bewijs over de externe wereld is. De vloeiendheid van een uitleg niet in de plaats stellen van de sterkte van het bewijs is het uitgangspunt voor verificatie.
De waarde van de vraag ‘waarom?’ in een dialoog met AI ligt niet in het blootleggen van een verborgen intern proces, maar in het omzetten van een oordeel in een vorm die mensen kunnen onderzoeken. Als we vragen ‘Welke informatie heb je als feit behandeld?’, ‘Waar zitten de aannames?’ en ‘Welke verandering zou de conclusie veranderen?’, wordt het gemakkelijker om zwakke punten in de uitvoer te herkennen. Dit is geen manier om het binnenste van AI volledig te begrijpen, maar het kan verduidelijken wat mensen aanvullend moeten verifiëren.
Denken op metaniveau kan niet alleen worden gebruikt om onze eigen manier van denken als het ware van buitenaf te bekijken, maar ook om opnieuw te overwegen wat we denken over AI te hebben geleerd. We kunnen onderscheid maken tussen ‘een reden kunnen uitleggen’ en ‘een oorzaak kunnen waarnemen’, tussen ‘aannemelijk’ en ‘onderbouwd met geverifieerd bewijs’, en tussen ‘consistent’ en ‘juist’. Met die onderscheidingen kunnen we voorkomen dat we uitleg van AI overwaarderen, terwijl we die toch als nuttig materiaal voor onderzoek gebruiken.
AI vragen ‘waarom?’ is belangrijk. Maar we moeten ons ook opnieuw afvragen op wat voor soort vraag dat antwoord eigenlijk een antwoord is. Wat we nodig hebben is niet de illusie dat we volledig in AI kunnen kijken, maar materiaal waarmee we een oordeel kunnen verifiëren en zo nodig herzien. De grenzen van uitleg kennen betekent niet dat we AI wantrouwen. Het betekent begrijpen tot hoever een uitleg kan worden gebruikt en vanaf welk punt extern bewijs of menselijk oordeel de controle moet overnemen.
Geen antwoorden. Begrip.