Optimalisatie is krachtig wanneer het doel duidelijk is. Zodra de voorwaarden zijn vastgesteld — de reistijd verkorten, kosten verlagen of de werklast verminderen met behoud van een bepaald kwaliteitsniveau — kan AI veel opties vergelijken. Maar bij belangrijke menselijke beslissingen is het doel zelf mogelijk niet enkelvoudig of vastgesteld. Iemand kan zijn inkomen willen verhogen en tegelijk tijd met het gezin willen beschermen, of groei nastreven zonder de belasting van de eigen gezondheid te vergroten. In zulke situaties moet de verhouding tussen waarden worden overwogen voordat de optimalisatie begint.
Het probleem is niet het omzetten van meerdere waarden in getallen. Het toekennen van gewichten voor vergelijking kan nuttig zijn. Maar wanneer onduidelijk wordt wie die gewichten heeft vastgesteld en waarom, verandert de vorming van het doel in louter een rekenvoorwaarde. Als bijvoorbeeld vanaf het begin een instelling wordt gegeven die inkomen zwaar laat wegen, kan AI onder die voorwaarde consistente aanbevelingen doen. Zelfs dan kan uit de juistheid van de berekening niet worden afgeleid of de persoon werkelijk inkomen boven alles wil stellen.
Voor eindige mensen is dit verschil belangrijk. Als we het leven telkens opnieuw konden beginnen nadat we het verkeerde doel hadden vastgesteld, zouden we later misschien de weging kunnen kiezen die het beste resultaat opleverde. In werkelijkheid keren echter een deel van de tijd die door een keuze is besteed en sommige verloren kansen niet terug. “Wat moet worden geoptimaliseerd?” is daarom niet slechts een technische voorbewerkingsstap; het maakt deel uit van het oordeel over waaraan iemand zijn eindige tijd zal besteden.
Als ondersteuning van het denken kan AI conflicten binnen een doel zichtbaar maken in plaats van het doel zelf vast te leggen. AI kan laten zien wat er verandert wanneer één waarde prioriteit krijgt en hoe de rangschikking van opties verandert wanneer aan een andere waarde meer gewicht wordt toegekend. Door vragen te stellen kan AI ook nagaan of wat aan de oppervlakte één doel lijkt, in werkelijkheid meerdere wensen bevat. Zulke vergelijkingen kunnen iemand helpen begrijpen wat diegene probeert te kiezen voordat het probleem tot één optimum wordt teruggebracht.
Hier mag het stellen van vragen geen doel op zich worden. Als het doel duidelijk is en de keuze gemakkelijk omkeerbaar is, zou telkens stoppen de ondersteuning juist belastend maken. Het gaat erom situaties te herkennen waarin ambiguïteit in het doel de conclusie zou kunnen veranderen, meerdere waarden met elkaar botsen of de keuze in hoge mate onomkeerbaar is. Een vraag is geen verzet tegen snelheid; zij is een noodzakelijk middel wanneer het doel nog niet is gevormd als iets dat de mens als het zijne kan herkennen.
Voor Sai＊aus komen optimalisatie en begrip hier samen. Zelfs als AI een uitstekend middel vindt, betekent hoge efficiëntie niet noodzakelijk een wenselijk resultaat als de mens het doel waarop dat middel is gericht niet begrijpt. De laag waarin middelen worden vergeleken en de laag waarin wordt onderzocht wat ertoe doet, mogen daarom niet met elkaar worden verward. De mogelijkheden van AI kunnen worden gebruikt als materiaal voor het vormen van doelen, terwijl een structuur behouden blijft waarin mensen verantwoordelijkheid kunnen nemen voor de prioriteit die aan waarden wordt toegekend.
Vóór optimalisatie bepalen “wat ertoe doet” betekent niet dat iemand altijd alleen en geïsoleerd moet nadenken. Mensen vormen waarden binnen relaties met anderen en maatschappelijke verantwoordelijkheden. AI kan ook dat onderzoek ondersteunen. Toch is wat berekenbaar is geworden niet noodzakelijk wat gedelegeerd zou moeten worden. Ondersteuning van het denken moet de voorwaarde behouden dat eindige actoren kunnen begrijpen wat hun keuzes prioriteit geven en wat zij prijsgeven, en vervolgens optimalisatie kunnen gebruiken zonder het menselijke oordeel uit te wissen.
Geen antwoorden. Begrip.