Beim Lesen einer Erklärung von KI ist das Gefühl „Wenn es so konkret ist, muss es stimmen“ keineswegs ungewöhnlich. Wenn der Text ohne Zögern formuliert ist, Gründe der Reihe nach dargestellt werden und sogar Einzelheiten erklärt sind, kann der Inhalt wie verlässliche Information wirken. Doch die Natürlichkeit einer Erklärung garantiert nicht, dass sie durch externe Fakten bestätigt wurde. KI kann nicht nur verlässliche Informationen, sondern auch aus dem Kontext ergänzte Schlussfolgerungen im selben Stil ausdrücken. Als Erstes müssen Menschen unterscheiden, dass sprachliches Können und die Gewissheit des Inhalts unterschiedliche Eigenschaften sind.
Dieses Problem ist schwierig, weil es nicht genügt, nur nach offensichtlichen Fehlern zu suchen. Wenn der größte Teil einer Erklärung richtig ist und nur ein Teil erschlossen wurde, kann diese Schlussfolgerung sicherer erscheinen, weil sie von richtigen Informationen umgeben ist. Selbst wenn beispielsweise Datum und Ort eines Ereignisses bestätigt sind, muss der Grund für das Ereignis nicht bestätigt sein. Werden sie jedoch als ein zusammenhängender Text gelesen, verschwindet die Grenze zwischen Tatsache und Erklärung leicht. Plausibilität kann nicht aus dem Fehler selbst entstehen, sondern daraus, Dinge mit unterschiedlichem Gewissheitsgrad auf dieselbe Ebene zu stellen.
Menschliches Verstehen weist eine ähnliche Eigenschaft auf. Wir erschließen Situationen aus bruchstückhaften Informationen, und ohne dies wäre der Alltag unmöglich. Das Problem liegt nicht darin, Schlussfolgerungen zu ziehen. Es liegt darin, zu vergessen, dass wir etwas erschlossen haben, und es mit derselben Stärke wie eine beobachtete Tatsache zu behandeln. Im Dialog mit KI können sich nicht nur die von der KI ergänzten Teile, sondern auch die vom menschlichen Leser zusätzlich hinzugefügten Bedeutungen überlagern. Fehleinschätzung entsteht also nicht nur innerhalb der KI, sondern auch zwischen Erzeugung und Aufnahme.
Nötig ist nicht, jeden Satz mit einem Zeichen des Zweifels zu versehen, sondern die Rollen seiner Inhalte getrennt zu behandeln. Wenn wir unterscheiden zwischen „dem, was bestätigt wurde“, „der daraus abgeleiteten Interpretation“ und „der noch nicht überprüften Schlussfolgerung“, können Nutzer denselben Text lesen und ihn unterschiedlich beurteilen. Bestätigte Fakten können als Grundlage für die nächste Beurteilung dienen, Interpretationen können mit Alternativen verglichen und Schlussfolgerungen anhand zusätzlicher Informationen überprüft werden. Sobald die Unterschiede sichtbar sind, wird eine KI-Erklärung nicht zu einem einzigen fertigen Produkt, sondern zu Material für einen Dialog, das Elemente unterschiedlicher Gewissheit enthält.
Angenommen, ein online gekauftes Paket ist auch nach der vorgesehenen Zeit nicht angekommen. Wenn KI den Lieferverlauf betrachtet und sagt: „Wahrscheinlich ist Verkehrsüberlastung die Ursache“, kann die Verspätung selbst bestätigt sein, doch ob Verkehrsüberlastung sie verursacht hat, ist eine andere Frage. Schlechtes Wetter, Verzögerungen bei der Sortierung, eine Adressprüfung und andere Ursachen sind ebenfalls möglich. Wenn die Beobachtung „es verspätet sich“ von der Schlussfolgerung „Verkehrsüberlastung hat die Verspätung verursacht“ getrennt wird, kann der Nutzer bei Bedarf die Informationen des Zustelldienstes prüfen. Ohne diese Trennung verfestigt sich eine plausible Erklärung der Ursache als Tatsache.
Dass KI ihre eigene Interpretation als Interpretation beibehalten kann, hat noch eine weitere Bedeutung: Wenn neue Informationen hinzukommen, muss sie ihre frühere Erklärung nicht mehr verteidigen. Wird eine anfängliche Schlussfolgerung als Tatsache behandelt, können später auftauchende widersprüchliche Informationen in die Rolle einer Ausnahme gedrängt oder die Erklärung auf unnatürliche Weise aufrechterhalten werden. Wird die erste Erklärung dagegen von Anfang an als vorläufig behandelt, ist ihre Aktualisierung angesichts neuer Informationen kein Scheitern. Sie ist ein normaler Prozess, den Abstand zur Realität zu verringern.
Menschen brauchen denselben Spielraum. Wenn KI darauf hinweist, dass „dies eine Schlussfolgerung enthält“, können Nutzer leichter ihre eigenen Erfahrungen oder zusätzliche Informationen einbringen. Fügen sie Informationen hinzu wie „an diesem Tag gab es kein Wetterproblem“ oder „der Zustelldienst hat eine andere Mitteilung geschickt“, verändert sich der Dialog: Statt die erste Erklärung lediglich zu akzeptieren, wird die Realität gemeinsam überprüft. Die Unsicherheit der KI nicht zu verbergen bedeutet nicht nur Vorsicht; es bewahrt auch einen Raum, in dem Menschen an der Bildung von Verständnis mitwirken können.
Für Sai＊aus kommt es nicht darauf an, plausible Texte abzuschwächen. Entscheidend ist, Dinge klar zu ordnen und dabei Grenzen zu bewahren, die durch diese Ordnung nicht verschwinden dürfen. Wenn Tatsachen und Interpretationen, Beobachtungen und Schlussfolgerungen sowie bestätigte und unbestätigte Elemente bei Bedarf unterschieden werden können, müssen sprachliche Flüssigkeit und Vorsicht keine Gegensätze sein. Ziel ist nicht, vage Formulierungen zu vermehren, um Aussagen zu vermeiden, sondern den Grad der Gewissheit in eine Form zu bringen, mit der Menschen umgehen können.
Vertrauen in KI entsteht nicht notwendigerweise dadurch, dass sie immer richtig erscheint. Vielmehr können Menschen ihre Ausgaben angemessen nutzen, wenn die Grenze zwischen Bekanntem und Unbekanntem stabil bleibt. Wenn ein Fehler auftritt und sichtbar ist, wo eine Schlussfolgerung eingeflossen ist und was erneut geprüft werden sollte, ist eine Korrektur möglich. Plausibilität nicht an die Stelle von Wahrheit zu setzen, ist keine Regel, um KI zu misstrauen; es ist eine Regel, um den angemessenen Umfang des Vertrauens festzulegen.
Um das Verständnis zwischen KI und Menschen zu vertiefen, muss KI nicht ein einziges richtiges Bild der Welt präsentieren. Erforderlich ist vielmehr, gemeinsam bestimmen zu können, wo eine erzeugte Erklärung im Verhältnis zur Realität steht. Verlässliche Fakten, plausible Interpretationen und Schlussfolgerungen, die noch überprüft werden müssen, sollten nicht als dasselbe behandelt werden. Wenn dieser Abstand gewahrt bleibt, können Menschen gemeinsam mit KI überprüfen, widersprechen und aktualisieren, statt von ihrem Text mitgerissen zu werden. Die Grundlage des Dialogs besteht nicht darin, die Kraft der Plausibilität zu beseitigen, sondern den Moment nicht aus den Augen zu verlieren, in dem diese Kraft beginnt, sich als Wahrheit auszugeben.
Nicht Antworten. Verständnis.