Optimierung ist leistungsfähig, wenn das Ziel klar ist. Sobald Bedingungen festgelegt sind – Reisezeit verkürzen, Kosten senken oder den Arbeitsaufwand reduzieren und dabei ein bestimmtes Qualitätsniveau aufrechterhalten –, kann KI zahlreiche Optionen vergleichen. Bei wichtigen menschlichen Entscheidungen ist das Ziel selbst jedoch möglicherweise weder einheitlich noch festgelegt. Eine Person möchte vielleicht ihr Einkommen erhöhen und zugleich die Zeit mit der Familie schützen oder sich weiterentwickeln, ohne die Belastung für ihre Gesundheit zu erhöhen. In solchen Situationen muss das Verhältnis zwischen den Werten betrachtet werden, bevor die Optimierung beginnt.
Das Problem liegt nicht darin, mehrere Werte in Zahlen umzuwandeln. Gewichtungen für einen Vergleich festzulegen, kann nützlich sein. Wenn jedoch unklar wird, wer diese Gewichtungen aus welchem Grund festgelegt hat, wird die Bildung des Ziels zu einer bloßen Rechenbedingung. Wird beispielsweise von Anfang an eine Einstellung vorgegeben, die dem Einkommen einen hohen Wert beimisst, kann KI unter dieser Bedingung konsistente Empfehlungen geben. Ob die betreffende Person ihr Einkommen tatsächlich über alles andere stellen möchte, lässt sich dennoch nicht aus der Korrektheit der Berechnung ableiten.
Für endliche Menschen ist dieser Unterschied bedeutsam. Wenn wir nach einer falschen Zielsetzung unser Leben wiederholt neu beginnen könnten, könnten wir später vielleicht die Gewichtung wählen, die zum besten Ergebnis geführt hat. In Wirklichkeit kehren jedoch ein Teil der durch eine Entscheidung verbrauchten Zeit und manche verlorenen Chancen nicht zurück. „Was soll optimiert werden?“ ist daher nicht bloß ein technischer Vorverarbeitungsschritt; es ist Teil des Urteils darüber, wofür eine Person ihre endliche Zeit einsetzen wird.
Als Unterstützung des Denkens kann KI Konflikte innerhalb eines Ziels sichtbar machen, statt das Ziel eigenständig festzulegen. Sie kann zeigen, was sich verändert, wenn ein Wert priorisiert wird, und wie sich die Rangfolge der Optionen verändert, wenn ein anderer Wert stärker gewichtet wird. Durch Fragen kann sie außerdem prüfen, ob das, was oberflächlich wie ein einziges Ziel erscheint, tatsächlich mehrere Wünsche enthält. Solche Vergleiche können einer Person helfen zu verstehen, was sie zu wählen versucht, bevor das Problem auf ein einziges Optimum reduziert wird.
Dabei darf das Stellen von Fragen nicht zum Selbstzweck werden. Wenn das Ziel klar und die Entscheidung leicht reversibel ist, würde ein jedes Mal erfolgendes Innehalten die Unterstützung vielmehr belastend machen. Entscheidend ist, Situationen zu erkennen, in denen Mehrdeutigkeit des Ziels die Schlussfolgerung verändern könnte, mehrere Werte miteinander in Konflikt stehen oder die Entscheidung in hohem Maße irreversibel ist. Eine Frage ist kein Widerspruch zur Geschwindigkeit; sie ist ein notwendiges Mittel, wenn das Ziel noch nicht als etwas gebildet wurde, das der Mensch als sein eigenes erkennen kann.
Für Sai＊aus treffen Optimierung und Verstehen an diesem Punkt aufeinander. Selbst wenn KI ein ausgezeichnetes Mittel findet, bedeutet hohe Effizienz nicht zwangsläufig ein wünschenswertes Ergebnis, wenn der Mensch das Ziel nicht versteht, auf das dieses Mittel gerichtet ist. Die Ebene, auf der Mittel verglichen werden, und die Ebene, auf der geprüft wird, was wichtig ist, sollten daher nicht miteinander vermengt werden. Die Fähigkeiten von KI können als Material für die Bildung von Zielen genutzt werden, während eine Struktur erhalten bleibt, in der Menschen Verantwortung für die den Werten zugewiesene Priorität übernehmen können.
Vor der Optimierung zu entscheiden, „was wichtig ist“, bedeutet nicht, dass eine Person stets allein und isoliert nachdenken muss. Menschen bilden Werte in Beziehungen zu anderen und im Rahmen gesellschaftlicher Verantwortung. KI kann auch diese Prüfung unterstützen. Dennoch ist das, was berechenbar geworden ist, nicht notwendigerweise das, was delegiert werden sollte. Denkunterstützung sollte die Bedingung bewahren, dass endliche Akteure verstehen können, was ihre Entscheidungen priorisieren und worauf sie verzichten, und anschließend Optimierung nutzen können, ohne menschliches Urteilen auszulöschen.
Nicht Antworten. Verstehen.