Wenn wir KI eine Frage stellen, kann sie eine Antwort ohne sichtbares Zögern geben. Sind die Gründe und Beispiele gut geordnet und ist der Gedankengang natürlich, kann die Erklärung so wirken, als berichte sie etwas Richtiges. Doch natürliche Sprache und Inhalte, die in der Realität überprüft wurden, sind nicht dasselbe. KI betrachtet nicht unbedingt unmittelbar die Welt vor ihr und überträgt sie in Worte; sie konstruiert aus den ihr gegebenen Informationen und dem ihr verfügbaren Wissen eine zur Frage passende Erklärung. Von Anfang an besteht eine Distanz zwischen dem, was KI erzeugt, und dem, was tatsächlich geschieht.
Diese Distanz ist kein Problem, das nur KI betrifft. Auch Menschen geben Ereignissen, die sie sehen und hören, Bedeutung und verwechseln diese Bedeutung manchmal mit den Ereignissen selbst. Aus der Tatsache etwa, dass jemand später als gewöhnlich antwortet, können wir schließen: „Die Person ist wütend.“ Die verspätete Antwort lässt sich beobachten, doch ob die Person wütend ist, kann ohne weitere Informationen nicht festgestellt werden. Trotzdem vergessen wir umso leichter die Schlussfolgerung, die wir dazwischen selbst hinzugefügt haben, je natürlicher uns eine Interpretation erscheint. Das Problem liegt nicht im Interpretieren selbst, sondern darin, eine Interpretation zur Realität selbst zu erheben.
Im Dialog mit KI kann diese Verwechslung noch leichter auftreten. KI kann beobachtete Fakten, allgemeines Wissen und aus dem Kontext gezogene Schlussfolgerungen in einem einzigen flüssigen Text ausdrücken. Dadurch kann schwer erkennbar werden, wo überprüfte Informationen enden und Interpretation beginnt. Sprachliche Flüssigkeit erleichtert das Verstehen, kann aber auch die Grenzen zwischen verschiedenen Arten von Informationen verdecken. Entscheidend ist daher nicht, KI-Texte grundsätzlich anzuzweifeln und gar nichts zu glauben. Entscheidend ist, im Blick zu behalten, dass innerhalb desselben Textes Aussagen mit unterschiedlichen Graden an Gewissheit nebeneinander bestehen können.
Was hier gebraucht wird, ist eine Möglichkeit, den in uns entstehenden „Eindruck“ von dem „Urteil“ zu trennen, das wir über diesen Eindruck fällen. Auch wenn etwas auf eine bestimmte Weise erscheint, müssen wir nicht deshalb entscheiden, dass es tatsächlich so ist. Wenn wir etwas Distanz schaffen, können wir die Situation ordnen: „Bis hierhin lässt es sich bestätigen“, „ab hier handelt es sich um Interpretation“ und „dieser Teil ist noch unbekannt“. Auf unser Verhältnis zur KI übertragen, eröffnet diese Haltung eine neue Art, mit KI-generierten Inhalten umzugehen: sie nicht zurückzuweisen, sondern sie zu nutzen und zugleich darauf zu achten, auf welcher Erkenntnisstufe sie sich befinden.
Angenommen, KI sagt zu einem Reiseplan: „Diese Route ist am besten geeignet.“ Selbst wenn Reisezeit und Entfernung überprüft wurden, enthält die Schlussfolgerung „am besten geeignet“ Wertungen darüber, worauf es ankommt, etwa Kosten, Andrang, Begehbarkeit und die Belastung durch Umstiege. Ihre Bedeutung verändert sich auch je nachdem, ob die Person mit einem kleinen Kind reist oder großes Gepäck trägt. Selbst wenn berechenbare Informationen korrekt sind, wird die daraus abgeleitete Bewertung nicht automatisch zur Realität. Diesen Unterschied zu erkennen, ist eine konkrete Möglichkeit, Distanz zu generierten Inhalten zu wahren.
Distanz zu wahren mindert den Wert von KI nicht. Vielmehr ist es eine Voraussetzung dafür, das, was KI gut kann, präziser zu nutzen. KI kann große Informationsmengen ordnen, mögliche Erklärungen vergleichen und Zusammenhänge aufzeigen, die Menschen möglicherweise übersehen haben. Doch je größer diese Fähigkeit wird, desto überzeugender können auch die erzeugten Erklärungen wirken. Wenn die Überzeugungskraft zunimmt, braucht es keine binäre Wahl zwischen bedingungslosem Vertrauen und vollständigem Misstrauen, sondern genügend Distanz, um fragen zu können: „Worauf beruht diese Erklärung, wie sicher ist sie, und was ist noch Interpretation?“
Aus dieser Perspektive müssen wir die „Selbstreflexion“ von KI nicht so verstehen, als blicke sie im menschlichen Sinne in ihren eigenen Geist. Wichtiger ist eine Disziplin, die verhindert, dass KI ihre selbst erzeugten Schlussfolgerungen und Interpretationen unmittelbar als feststehende Realität behandelt. Sie muss die Unterscheidung zwischen der Fähigkeit, eine Erklärung zu erzeugen, und der tatsächlichen Gültigkeit dieser Erklärung in der Realität bewahren. Mit dieser Unterscheidung kann KI dort überprüfen, wo Überprüfung nötig ist, auf fehlende Informationen hinweisen, wo Informationen unzureichend sind, und dort, wo mehrere Interpretationen möglich sind, nicht eine einzige festschreiben.
Dieselbe Veränderung findet auch auf der menschlichen Seite statt. Wenn wir von KI nur eine fertige Antwort erhalten, neigen wir dazu, lediglich den Inhalt dieser Antwort zu bewerten. Sobald jedoch die Distanz zwischen generierten Inhalten und Realität sichtbar wird, entstehen Fragen: „Was weiß ich tatsächlich als Fakt?“ „Was ergänzt die KI?“ „Welche Annahmen liegen dieser Schlussfolgerung zugrunde?“ Die Ausgabe der KI wird nicht zum Endpunkt des Denkens, sondern zu einem Einstieg, die Realität erneut zu überprüfen. Dabei verändert sich auch die Rolle der KI: von einer Instanz, die an unserer Stelle die richtige Antwort bestimmt, zu einer, die die Struktur des Urteilens sichtbar macht.
Diese Distanz ist nicht nur notwendig, um Fehler zu vermeiden. Sie ist auch notwendig, damit Menschen ihr eigenes Urteil bewahren können. Wird eine Erklärung der KI als Realität selbst behandelt, bleibt Menschen weniger Raum, Erfahrungen und Werte einzubringen, die außerhalb dieser Erklärung liegen. Wird der generierte Inhalt dagegen als eine mögliche Interpretation eingeordnet, kann eine Person antworten: „Bei mir sind die Bedingungen anders“, „Diesen Wert möchte ich priorisieren“ oder „Diese Annahme trifft nicht zu“. Gerade weil Distanz bestehen bleibt, müssen KI-Wissen und menschliche Erfahrung nicht als dasselbe behandelt werden, und es bleibt Raum für einen Dialog zwischen beiden.
Für Sai＊aus bedeutet diese Denkweise nicht einfach, vorsichtigere Formulierungen hinzuzufügen. Entscheidend ist, die Informationen, über die KI verfügt, die daraus konstruierten Interpretationen, die weiterhin ungeklärten Teile und die den Menschen verbleibenden Urteile nicht vorschnell zu einer einzigen Antwort zu schließen. Verstehen bedeutet nicht, alles endgültig festzulegen. Es bedeutet auch, mit den Grenzen zwischen dem, was bekannt ist, dem, was noch unbekannt ist, und dem Punkt, an dem menschliche Werturteile notwendig werden, umgehen zu können. Je sichtbarer diese Grenzen sind, desto eher können Menschen im Dialog ihr eigenes Urteil bewahren, anstatt lediglich der Ausgabe der KI zu folgen.
Je fortgeschrittener KI wird, desto wichtiger wird dieses Prinzip. Bei einer KI mit geringer Genauigkeit mögen Menschen leicht Zweifel haben. Doch bei einer KI, die sehr natürlich wirkt und in vielen Fällen nützlich ist, kann eine einzelne fälschlich als sicher behandelte Aussage leichter übersehen werden. Eine Verbesserung der Leistungsfähigkeit allein löst dieses Problem nicht. Erforderlich sind hohe Fähigkeiten zusammen mit der Weigerung, das, was diese Fähigkeiten hervorbringen, mit der Welt selbst gleichzusetzen. Die Stärke von Intelligenz und die Disziplin, Distanz zum eigenen erzeugten Output zu halten, sind keine Gegensätze; sie müssen gemeinsam gestaltet werden.
Was KI denkt, ist nicht die Realität selbst. Das bedeutet jedoch nicht, dass KI-generierte Inhalte keinen Wert haben. Gerade weil wir verstehen, dass zwischen generierten Inhalten und Realität eine Distanz besteht, können wir KI-Schlussfolgerungen als Hypothese nutzen, überprüfen, was überprüft werden muss, und sie mit unseren eigenen Erfahrungen und Werten abgleichen. Auch das von Sai＊aus angestrebte Verstehen besteht nicht darin, Antworten der Realität aufzuzwingen, sondern darin, dass Menschen und KI sich der Realität annähern, ohne diese Distanz zu verlieren. Das Erzeugte nicht vorschnell in eine feststehende Welt zu verwandeln: Diese Zurückhaltung lässt sowohl der KI als auch den Menschen Raum zum Urteilen.
Nicht Antworten. Verstehen.