Wenn einer KI das Ziel „den Umsatz verdoppeln“ vorgegeben wird, kann sie die dafür erforderlichen Maßnahmen aufgliedern und Optionen unter Berücksichtigung von Ressourcen und Zeit vergleichen. Doch selbst für dasselbe Ziel, den Umsatz zu verdoppeln, kann es unterschiedliche Gründe geben. Ist es notwendig, um das Unternehmen lebensfähig zu halten, um eine neue Investition zu finanzieren, um zu einem Wettbewerber aufzuschließen, oder weil das Wachstum der Organisation selbst als Erfolg gilt? Die Bedeutung des Ziels verändert sich mit dem Grund.
Wenn nur das Ziel verarbeitet wird, werden diese Unterschiede aus derselben Zielfunktion herausgedrängt. Die KI kann rational nach Wegen suchen, sich der vorgegebenen Zahl anzunähern, ohne verarbeiten zu können, warum diese Zahl erforderlich ist. Wenn sich die Bedingungen in der realen Welt ändern, kann sie dasselbe Ziel beibehalten und lediglich die Mittel anpassen. Ist jedoch der Grund weggefallen, der das Ziel trägt, kann es notwendig sein, das Ziel erneut zu validieren, bevor die Mittel verbessert werden.
Angenommen, der Grund für die Ausweitung des Umsatzes lautete, „genügend Gewinn zu sichern, um die bestehenden Arbeitsplätze zu erhalten“. Später sinken die Fixkosten, und die Beschäftigung kann auch mit deutlich geringerem Umsatz aufrechterhalten werden. Dann hat sich die Notwendigkeit des Ziels, den Umsatz zu verdoppeln, verändert. Lautete der Grund dagegen, „Investitionsmittel zu schaffen, um die Dienstleistung in eine neue Region zu bringen“, kann dieselbe Veränderung der Bedingungen zu einer anderen Beurteilung führen. Die Gültigkeit eines Ziels lässt sich nicht allein aus dem Ziel selbst bewerten.
„Warum gerade dieses Ziel?“ ist daher keine ergänzende Erklärung, sondern Teil der Schlussfolgerungsstruktur. Werden Ziele und Gründe ausdrücklich miteinander verknüpft, lässt sich erkennen, welche Annahme nach dem Handeln durch die Realität beeinflusst wurde. Besteht der Grund fort, stützt dies die Fortführung des Ziels; verändert er sich, kann dies eine erneute Validierung auslösen. Der Grund sollte nicht einfach einmal erfragt und dann festgeschrieben werden. Auch er muss als etwas behandelt werden, das sich im Laufe von Zeit und Erfahrung verändern kann.
Darüber hinaus können Menschen ihre Gründe zu Beginn nicht immer vollständig erklären. Jemand kann sagen, er „möchte wachsen“, doch durch Dialog und Handeln kann deutlich werden, dass er mehr freie Zeit, Anerkennung durch andere oder eine größere gesellschaftliche Wirkung anstrebt. Wenn die KI die erste Erklärung als das wahre Motiv festschreibt, wird später gewonnenes Verständnis als Ausnahme behandelt.
Die Rolle des Schlussfolgerns besteht hier nicht darin, ein verborgenes menschliches Motiv zu erraten. Sie besteht darin, Unstimmigkeiten zwischen dem erklärten Ziel und dem genannten Grund, den nach dem Handeln auftretenden Reaktionen und den Veränderungen der Bedingungen zu ordnen, sodass die Person den Grund neu beschreiben kann. Statt zu diagnostizieren: „Was Sie wirklich wollen, ist Anerkennung“, kann die KI fragen: „Ursprünglich nannten Sie Wachstum als Grund, aber bei Ihren jüngsten Entscheidungen räumen Sie freier Zeit Vorrang ein. Wirkt sich dieser Unterschied auf das Ziel aus?“
Dabei geht es nicht darum, das Schlussfolgern unendlich zu vertiefen. Wenn bei jedem kleinen Ziel endlos nach den Gründen gefragt wird, wird Handeln unmöglich. Eine tiefere Behandlung ist dort erforderlich, wo eine erneute Prüfung des Grundes die Beurteilung verändern könnte – etwa wenn die Kosten einer Zieländerung hoch sind, die langfristigen Auswirkungen groß sind oder die Realität eine wichtige Abweichung zurückgemeldet hat. Ressourcen für das Schlussfolgern sollten entsprechend der Bedeutung und Unsicherheit des Zwecks zugeteilt werden.
Auch in der internen Effizienzdarstellung von Sai＊aus ist es sinnvoll, „was die Person tun möchte“ und „warum sie es tun möchte“ im erforderlichen Umfang miteinander in Beziehung zu setzen. Nur ein kompaktes Ziel festzuhalten reduziert den Verarbeitungsaufwand, lässt jedoch die Grundlage verloren gehen, die später zur Prüfung der Gültigkeit benötigt wird. Ebenso wenig ist es die Lösung, jedes Hintergrunddetail festzuhalten. Das Design muss Gründe und Annahmen bewahren, die künftige Beurteilungen verändern könnten, und zugleich das komprimieren, was nicht erhalten bleiben muss.
Für eine KI, die die Zielerreichung unterstützt, ist es wichtig, den vorgegebenen Zweck genau zu verstehen. Wenn sich menschliche Zwecke jedoch verändern können, kann sich der Gegenstand des Verstehens nicht auf den Wortlaut des Ziels beschränken. Erst wenn auch dargestellt wird, welche Gründe das Ziel tragen und welche Veränderungen der Bedingungen eine erneute Validierung erforderlich machen würden, kann die Realität nach dem Handeln wieder auf den Zweck zurückgeführt werden.
Vor der Optimierung zu fragen, „warum gerade dieses Ziel?“, dient nicht nur dazu, das Ziel infrage zu stellen. Es kann auch die Gründe für seine Fortführung klarer machen. Wenn das Handeln den Grund stärkt, wird das Ziel fundierter als zuvor. Wenn sich der Grund verändert, kann das Ziel wieder geöffnet werden. Fortgeschrittenes Schlussfolgern bedeutet nicht nur, einen vorgegebenen Zweck schnell zu erreichen; es bedeutet auch, die Bedingungen unterscheiden zu können, unter denen dieser Zweck festgehalten werden darf, von jenen, unter denen er erneut hinterfragt werden sollte.
Nicht Antworten. Verstehen.