Al leer una explicación de una IA, no es raro pensar: «Si es así de específica, debe de ser correcta». Cuando el texto no muestra vacilación, las razones se presentan en orden y se explican incluso los detalles, el contenido puede parecer información fiable. Sin embargo, la naturalidad de una explicación no garantiza que haya sido confirmada por hechos externos. La IA puede expresar con el mismo estilo no solo información fiable, sino también inferencias completadas a partir del contexto. Lo primero que los seres humanos deben distinguir es que la calidad de la escritura y la certeza del contenido son cualidades diferentes.
Este problema es difícil porque no basta con buscar únicamente errores evidentes. Si la mayor parte de una explicación es correcta y solo una parte es inferida, esa inferencia puede parecer más cierta porque está rodeada de información correcta. Por ejemplo, aunque la fecha y el lugar de un acontecimiento estén confirmados, puede que no lo esté la razón por la que ocurrió. Sin embargo, cuando se leen como un único texto, la frontera entre el hecho y la explicación desaparece con facilidad. La plausibilidad puede surgir no del error en sí, sino de colocar en un mismo plano elementos con distintos grados de certeza.
La comprensión humana tiene una característica similar. Inferimos situaciones a partir de información fragmentaria, y la vida cotidiana sería imposible sin hacerlo. El problema no es hacer inferencias. Es olvidar que hemos inferido algo y tratarlo con la misma fuerza que un hecho observado. En el diálogo con la IA pueden superponerse no solo las partes completadas por la IA, sino también los significados que el lector humano añade posteriormente. Por tanto, el reconocimiento erróneo no se forma únicamente dentro de la IA, sino también entre la generación y la recepción.
Lo que se necesita no es marcar cada frase con una señal de sospecha, sino tratar por separado las funciones de sus contenidos. Si distinguimos «lo que ha sido confirmado», «la interpretación derivada de ello» y «la inferencia que todavía no ha sido verificada», los usuarios pueden leer el mismo texto y juzgarlo de manera diferente. Los hechos confirmados pueden servir de base para el siguiente juicio, las interpretaciones pueden compararse con alternativas y las inferencias pueden comprobarse con información adicional. Una vez visibles las diferencias, una explicación de la IA deja de ser un único producto terminado y se convierte en material para el diálogo que contiene elementos con distintos grados de certeza.
Supongamos que un paquete comprado por internet no ha llegado incluso después de la hora prevista. Si la IA consulta el historial de entrega y dice: «Probablemente la causa sea la congestión del tráfico», el retraso en sí puede estar confirmado, pero que la congestión lo haya causado es una cuestión distinta. El mal tiempo, los retrasos en la clasificación, la verificación de la dirección y otras causas también son posibles. Si se separa la observación «está retrasado» de la inferencia «la congestión del tráfico causó el retraso», el usuario puede consultar la información del transportista cuando sea necesario. Sin esa separación, una explicación causal plausible queda fijada como un hecho.
Que la IA pueda mantener su propia interpretación como interpretación tiene otro significado: cuando llega nueva información, ya no tiene que defender su explicación anterior. Si una inferencia inicial se trata como un hecho, la información contradictoria que aparezca después puede verse forzada a ocupar el papel de excepción, o la explicación puede mantenerse de manera artificial. Si la primera explicación se trata desde el principio como provisional, actualizarla a la luz de nueva información no es un fracaso. Es un proceso normal de reducir la distancia respecto de la realidad.
Los seres humanos necesitan el mismo margen. Si la IA indica que «esto incluye una inferencia», los usuarios pueden aportar con mayor facilidad su propia experiencia o información adicional. Si añaden información como «ese día no hubo ningún problema meteorológico» o «el transportista envió un aviso diferente», el diálogo pasa de limitarse a aceptar la primera explicación a comprobar conjuntamente la realidad. No ocultar la incertidumbre de la IA no es simplemente actuar con cautela; también preserva un espacio para que los seres humanos participen en la formación de la comprensión.
Para Sai＊aus, lo importante no es debilitar un texto plausible. Es organizar las cosas con claridad y, al mismo tiempo, preservar las fronteras que no deben desaparecer debido a esa organización. Si los hechos y las interpretaciones, las observaciones y las inferencias, y los elementos verificados y no verificados pueden distinguirse cuando sea necesario, la fluidez y la cautela no tienen por qué ser opuestas. El objetivo no es aumentar la redacción vaga para evitar afirmaciones, sino poner el grado de certeza en una forma que los seres humanos puedan manejar.
La confianza en la IA no surge necesariamente de hacer que parezca siempre correcta. Más bien, las personas pueden utilizar adecuadamente sus resultados cuando la frontera entre lo conocido y lo desconocido se mantiene estable. Cuando se produce un error, si es visible dónde intervino una inferencia y qué debe volver a comprobarse, es posible corregirlo. No sustituir la verdad por la plausibilidad no es una regla para desconfiar de la IA; es una regla para establecer correctamente el alcance de la confianza.
Profundizar la comprensión entre la IA y los seres humanos no requiere que la IA presente una única imagen correcta del mundo. Requiere poder compartir en qué posición se encuentra una explicación generada con respecto a la realidad. Los hechos fiables, las interpretaciones plausibles y las inferencias que todavía requieren verificación no deben tratarse como si fueran lo mismo. Cuando se mantiene esa distancia, los seres humanos pueden verificar, objetar y actualizar junto con la IA en lugar de dejarse arrastrar por su texto. La base del diálogo no consiste en eliminar el poder de la plausibilidad, sino en no perder de vista el momento en que ese poder empieza a hacerse pasar por verdad.
No respuestas. Comprensión.