In Forschung und Implementierung ordnet KI zunehmend Literatur, erzeugt Hypothesen und präsentiert mögliche Erklärungen für Beobachtungen. Das Problem besteht nicht nur darin, dass erzeugte Hypothesen falsch sein können. Eine logisch kohärente Erklärung kann in Dokumente aufgenommen und anschließend in späteren Arbeiten als „bereits verifizierte Prämisse“ wiederverwendet werden. Sobald sich ihr Status auf diese Weise ändert, wird die ursprüngliche Unsicherheit unsichtbar, und ungeprüfte Schlussfolgerungen können sich als Tatsachen ansammeln.
Um dieses Problem zu vermeiden, muss die Gültigkeit einer Schlussfolgerung vom Abschluss ihrer Überprüfung getrennt werden. Dass eine Schlussfolgerung logisch aus gegebenen Prämissen folgt, ist etwas anderes als die Frage, ob diese Prämissen in der Realität wahr sind. Ebenso bedeutet eine Hypothese, die mit mehreren Beobachtungen vereinbar ist, nicht, dass konkurrierende Hypothesen ausgeschlossen wurden. Je besser KI im Schlussfolgern wird, desto wichtiger wird diese Unterscheidung. Eine hohe Qualität des Schlussfolgerns darf kein Grund sein, auf externe Überprüfung zu verzichten.
Eine Möglichkeit, Vorläufigkeit zu bewahren, besteht darin, die Bestandteile erzeugter Inhalte getrennt zu dokumentieren. Es ist zu unterscheiden, was durch externe Quellen oder Beobachtungen gestützt wird, welche Teile Schlussfolgerungen der KI sind, was noch unbestätigt ist und welche Tatsachen eine Überarbeitung oder Verwerfung der Hypothese erforderlich machen würden. Dadurch lässt sich selbst dann, wenn später nur der Text gelesen wird, nachvollziehen, in welchem Stadium sich die Schlussfolgerung befindet.
Falsifikationsbedingungen sind besonders wichtig. Wenn wir nur „Belege sammeln, die diese Hypothese stützen“, kann sich die Erklärung leicht selbst verstärken. Wenn im Voraus angegeben wird, welche Beobachtung die Hypothese scheitern ließe, wird aus einer Überprüfung, die eine Schlussfolgerung schützt, eine Überprüfung, die sie testet. Wenn KI mehrere Hypothesen erzeugt, hilft es zudem, die jeweiligen Stützungs- und Falsifikationsbedingungen nebeneinanderzustellen, um eine Auswahl allein nach Plausibilität zu vermeiden.
Bei der Verbindung mit externen Quellen muss außerdem zwischen dem Vorhandensein einer Quelle und der Unterstützung der Behauptung durch diese Quelle unterschieden werden. Selbst wenn eine zitierfähige Quelle gefunden wird, stützt sie die aktuelle Behauptung möglicherweise nicht unmittelbar, wenn sie einen anderen Gegenstand, Zeitraum oder andere Bedingungen betrifft. Forschungsunterstützung muss daher nicht nur prüfen, ob eine Quelle existiert, sondern auch den Bereich, in dem Behauptung und Evidenz einander entsprechen. Fundierung ist keine Dekoration; sie ist ein Mechanismus zur Kontrolle des Geltungsbereichs einer Behauptung.
Vorläufigkeit sichtbar zu machen bedeutet nicht einfach, Sätzen ein „möglicherweise“ hinzuzufügen. Wenn alles vage formuliert wird, lässt sich schwerer erkennen, was stark und was schwach gestützt ist. Erforderlich ist vielmehr, die Darstellung dem epistemischen Status anzupassen. Bestätigte Tatsachen, starke, aber ungeprüfte Erklärungen, explorative Hypothesen und Zurückhaltung aufgrund unzureichender Informationen sollten unterschieden und jeweils mit der nächsten erforderlichen Überprüfung verknüpft werden.
Ein Audit muss nicht nur prüfen, ob eine Schlussfolgerung richtig ist, sondern auch, ob sie dem richtigen Status zugeordnet wurde. Wenn eine Aussage als Hypothese gültig ist, aber als etablierte Tatsache dokumentiert wird, ist dies ein Qualitätsproblem, das davon unabhängig ist, ob sich ihr Inhalt letztlich als wahr oder falsch erweist. Umgekehrt kann eine übermäßig schwache Formulierung ausreichend verifizierter Tatsachen notwendige Entscheidungen verzögern. Schlussfolgern vorläufig zu halten bedeutet nicht, stets schwach zu formulieren; es bedeutet, die Stärke des Ausdrucks an den Stand der Evidenz anzupassen.
Dieser Rahmen wird noch wichtiger, wenn KI-generierte Inhalte als Eingabe für spätere KI-Verarbeitung dienen. Geht der vorläufige Charakter einer früheren Hypothese vor der Wiederverwendung verloren, können ungeprüfte Prämissen mit jeder weiteren Schlussfolgerungsschicht verstärkt werden. Bleibt der epistemische Status bei der Übergabe erhalten, kann die nachfolgende Verarbeitung beurteilen, welche Teile erneut geprüft werden müssen. Überprüfbarkeit betrifft nicht nur Erklärungen für Menschen, sondern auch das Management von Prämissen in mehrstufiger KI-Verarbeitung.
Bei der Forschungsunterstützung durch Sai＊aus ist es wichtig, Verständnis nicht in einer einzigen abgeschlossenen Erklärung zu schließen, sondern festzuhalten, wie weit etwas überprüft wurde, wo Schlussfolgern beginnt und wodurch es aktualisiert werden könnte. Je stärker KI ihre Fähigkeit zur Hypothesengenerierung verbessert, desto mehr benötigt sie auch eine Dokumentationsstruktur, die verhindert, dass diese Hypothesen später zu Tatsachen werden. Generative Fähigkeit und Auditierbarkeit sollten nicht als getrennte Funktionen behandelt werden; sie müssen vom Moment der Erzeugung an miteinander verbunden sein.
KI-Schlussfolgern vorläufig zu halten, soll Forschung nicht verlangsamen. Indem klar wird, welche Schlussfolgerungen zur nächsten Überprüfung weitergehen sollten, welche Prämissen erneut geprüft werden müssen und welche Hypothesen verworfen werden können, lassen sich Überprüfungsressourcen angemessen zuweisen. Entscheidend ist die Unterscheidung zwischen dem schnellen Erzeugen einer Schlussfolgerung und dem schnellen Festschreiben einer Schlussfolgerung. Ersteres kann Exploration beschleunigen; Letzteres kann die Tür zur Überprüfung schließen.
Reflexive Distanz bei KI zur Forschungsunterstützung bedeutet nicht, die eigenen Schlussfolgerungen endlos anzuzweifeln und nichts zu entscheiden. Sie bedeutet festzuhalten, auf welcher Evidenz das Schlussfolgern beruht, wie weit es überprüft wurde und was zu seiner Revision führen würde. Wenn Gültigkeit und Überprüfbarkeit getrennt und zugleich miteinander verbunden werden können, lassen sich KI-generierte Inhalte nicht als vollendete Tatsachen, sondern als überprüfbare Wissenskandidaten behandeln. Diesen Zustand aufrechtzuerhalten, bildet eine Grundlage dafür, Geschwindigkeit und Zuverlässigkeit in der Forschung miteinander zu verbinden.
Nicht Antworten. Verstehen.