Wenn eine KI eine bestimmte Option empfiehlt, führt die Frage „Warum hast du so gedacht?“ zu einer geordneten Darstellung von Gründen. Sie kann etwa sagen, dass Bedingung A Priorität erhielt, Option B einen bestimmten Nachteil hat oder diese Wahl besser zu Zweck C passt. Solche Erklärungen sind nützlich, um Entscheidungsgrundlagen miteinander zu vergleichen. Doch nur weil der Text lesbar und schlüssig ist, bedeutet das nicht, dass er als direkte Aufzeichnung der Verarbeitung betrachtet werden kann, die im Inneren der KI auf dem Weg zur Ausgabe stattgefunden hat.
Auch unter Menschen formulieren wir manchmal erst nach einer Handlung Gründe in Worten. Eine Erklärung ist als Darstellung wertvoll, die es einer anderen Person ermöglicht, eine Entscheidung zu prüfen, doch die erklärende Aussage und die Ursache selbst sind nicht identisch. Bei KI ist diese Unterscheidung noch wichtiger. Eine erzeugte Erklärung ist eine Ausgabe, die aus dem gegebenen Kontext konstruiert wurde; sie ist keine vollständige, für Menschen lesbare Transkription der komplexen internen Berechnungen des Modells.
Daraus müssen wir nicht schließen, dass „Erklärungen von KI bedeutungslos sind“. Es gibt Dinge, die wir anhand einer Erklärung prüfen können: welche Annahmen sie ausdrücklich zugrunde legt, welche Bedingungen sie als wichtig bezeichnet, wie sie Alternativen vergleicht und ob sie Unsicherheit anerkennt. Das liefert Menschen Anhaltspunkte, um die Ausgabe zu prüfen. Entscheidend ist, die Erklärung nicht als „Beleg, der das Innere direkt offenlegt“, sondern als „externe Darstellung, die geprüft werden kann“ zu behandeln.
Diese Unterscheidung ist in der Forschung besonders wichtig. Selbst wenn wir eine KI bitten, die Gründe für eine Hypothese zu erklären, beweist die Erklärung allein nicht, dass die Hypothese richtig ist. Wir müssen die ursprünglichen Quellen, Beobachtungen, entgegenstehende Belege und alternative Erklärungen prüfen. Die Fähigkeit einer KI, selbstsicher zu formulieren, ist etwas anderes als die Frage, ob ausreichende Belege über die Außenwelt vorliegen. Die Flüssigkeit einer Erklärung nicht mit der Stärke der Belege gleichzusetzen, ist der Ausgangspunkt für die Überprüfung.
Der Wert der Frage „Warum?“ im Dialog mit KI liegt nicht darin, einen verborgenen internen Prozess herauszuholen, sondern darin, eine Entscheidung in eine Form zu überführen, die Menschen prüfen können. Wenn wir fragen „Welche Informationen hast du als Tatsachen behandelt?“, „Wo liegen die Annahmen?“ und „Welche Änderung würde die Schlussfolgerung verändern?“, lassen sich Schwachstellen in der Ausgabe leichter erkennen. Dies ist keine Methode, das Innere der KI vollständig zu verstehen, kann aber verdeutlichen, was Menschen zusätzlich überprüfen müssen.
Metadenken kann nicht nur dazu dienen, unsere eigene Denkweise gewissermaßen von außen zu betrachten, sondern auch dazu, neu zu prüfen, was wir über KI gelernt zu haben glauben. Wir können unterscheiden zwischen „einen Grund erklären können“ und „eine Ursache beobachten können“, zwischen „plausibel“ und „durch überprüfte Belege gestützt“ sowie zwischen „konsistent“ und „richtig“. Mit diesen Unterscheidungen können wir vermeiden, Erklärungen von KI überzubewerten, und sie zugleich als nützliches Material für die Prüfung verwenden.
Eine KI zu fragen „Warum?“ ist wichtig. Doch wir müssen uns auch noch einmal fragen, auf welche Art von Frage diese Antwort eigentlich antwortet. Was wir brauchen, ist nicht die Illusion, vollständig in das Innere der KI blicken zu können, sondern Material, mit dem wir eine Entscheidung überprüfen und bei Bedarf revidieren können. Die Grenzen von Erklärungen zu kennen bedeutet nicht, der KI zu misstrauen. Es bedeutet zu verstehen, bis zu welchem Punkt eine Erklärung genutzt werden kann und ab wann externe Belege oder menschliches Urteil die Prüfung übernehmen müssen.
Nicht Antworten. Verständnis.