Cuando hacemos una pregunta a la IA, puede devolver una respuesta sin vacilación visible. Si las razones y los ejemplos están bien organizados y el desarrollo es natural, la explicación puede parecer que está informando de algo correcto. Pero un lenguaje natural y un contenido que ha sido verificado en la realidad no son lo mismo. La IA no necesariamente observa directamente el mundo que tiene delante y lo transcribe en palabras; construye una explicación adecuada a la pregunta a partir de la información que se le ha proporcionado y del conocimiento del que dispone. Desde el principio, existe una distancia entre lo que la IA genera y lo que realmente está ocurriendo.
Esta distancia no es un problema exclusivo de la IA. Los seres humanos también damos significado a los acontecimientos que vemos y oímos, y a veces confundimos ese significado con los propios acontecimientos. Por ejemplo, a partir del hecho de que alguien responde más tarde de lo habitual, podemos pensar: «Está enfadado». El retraso en la respuesta puede observarse, pero no puede establecerse que la persona esté enfadada sin otra información. Aun así, cuanto más natural nos parece una interpretación, más fácil es olvidar la inferencia que nosotros mismos añadimos entre medias. El problema no es interpretar, sino elevar una interpretación a la categoría de realidad misma.
En el diálogo con la IA, esta confusión puede producirse con aún más facilidad. La IA puede expresar hechos observados, conocimiento general e inferencias extraídas del contexto en un único texto fluido. Como resultado, puede resultar difícil ver dónde termina la información verificada y dónde comienza la interpretación. La fluidez ayuda a comprender, pero también puede ocultar las fronteras entre distintos tipos de información. Por eso, lo importante no es desconfiar del texto de la IA y no creer nada. Es recordar que dentro de un mismo texto pueden coexistir elementos con distintos grados de certeza.
Lo que se necesita aquí es una manera de separar la «impresión» que surge en nosotros del «juicio» que hacemos sobre esa impresión. Aunque algo parezca de determinada manera, no tenemos que decidir que, por ello, realmente sea así. Al crear cierta distancia, podemos organizar la situación de este modo: «hasta aquí puede confirmarse», «a partir de aquí es interpretación» y «esta parte todavía se desconoce». Aplicada a nuestra relación con la IA, esta actitud sugiere una nueva manera de relacionarnos con el contenido generado por IA: no rechazándolo, sino utilizándolo mientras observamos en qué etapa del conocimiento se encuentra.
Supongamos que la IA dice sobre un plan de viaje: «Esta ruta es la más adecuada». Aunque se hayan verificado el tiempo de viaje y la distancia, la conclusión «más adecuada» incluye juicios sobre lo que importa, como el coste, la congestión, la facilidad para caminar y la carga de los transbordos. Su significado también cambia dependiendo de si el usuario viaja con un niño pequeño o lleva equipaje voluminoso. Incluso cuando la información calculable es correcta, la evaluación derivada de ella no se convierte automáticamente en realidad. Distinguir esta diferencia es una forma concreta de mantener la distancia respecto del contenido generado.
Mantener la distancia no disminuye el valor de la IA. Más bien, es una condición para utilizar con mayor precisión aquello que la IA hace bien. La IA puede organizar grandes cantidades de información, comparar posibles explicaciones y revelar relaciones que los seres humanos quizá hayan pasado por alto. Sin embargo, cuanto mayor es esa capacidad, más persuasivas pueden resultar las explicaciones generadas. Cuando aumenta la capacidad de persuasión, lo que se necesita no es una elección binaria entre confianza incondicional y desconfianza total, sino suficiente distancia para preguntar: «¿En qué se basa esta explicación, hasta qué punto es segura y qué sigue siendo interpretación?».
Desde esta perspectiva, no es necesario pensar en la «autorreflexión» de la IA como si mirara dentro de su propia mente en el sentido humano. Más importante es una disciplina que impida que la IA trate inmediatamente sus propios razonamientos e interpretaciones generados como una realidad establecida. Debe conservar la distinción entre ser capaz de generar una explicación y que esa explicación se sostenga realmente en la realidad. Con esa distinción, la IA puede verificar donde sea necesaria la verificación, indicar la falta de información donde esta sea insuficiente y evitar fijar una sola interpretación donde sean posibles varias.
El mismo cambio se produce del lado humano. Cuando recibimos de la IA únicamente una respuesta terminada, tendemos a evaluar solo el contenido de esa respuesta. Pero una vez que se hace visible la distancia entre el contenido generado y la realidad, surgen preguntas: «¿Qué sé realmente como hecho?», «¿Qué está completando la IA?», «¿Qué supuestos sustentan esta conclusión?». La salida de la IA deja de ser el punto final del pensamiento y se convierte en una entrada para volver a comprobar la realidad. Aquí, la IA también pasa de ser una entidad que decide por nosotros la respuesta correcta a una que hace visible la estructura del juicio.
Esta distancia no es necesaria solo para evitar errores. También lo es para que los seres humanos conserven su propio juicio. Si una explicación de la IA se trata como la realidad misma, las personas tienen menos espacio para incorporar experiencias y valores que quedan fuera de esa explicación. Si, en cambio, el contenido generado se sitúa como una interpretación, una persona puede responder: «En mi caso, las condiciones son distintas», «Quiero dar prioridad a este valor» o «Ese supuesto no se aplica». Precisamente porque se mantiene la distancia, el conocimiento de la IA y la experiencia humana no tienen que tratarse como si fueran lo mismo, dejando espacio para el diálogo entre ambos.
Para Sai＊aus, esta forma de pensar no significa simplemente añadir expresiones más cautelosas. Lo importante es no cerrar demasiado rápido en una sola respuesta la información que posee la IA, las interpretaciones que construye a partir de esa información, las partes que siguen sin resolverse y los juicios que quedan en manos de los seres humanos. Comprender no significa hacer que todo sea definitivo. También significa poder manejar las fronteras entre lo que se sabe, lo que todavía se desconoce y dónde se vuelven necesarios los juicios de valor humanos. Cuanto más visibles sean esas fronteras, más podrán los seres humanos dialogar conservando su propio juicio, en lugar de limitarse a seguir la salida de la IA.
Cuanto más avanzada se vuelve la IA, más importante se vuelve este principio. Con una IA de baja precisión, las personas pueden dudar fácilmente de ella. Pero con una IA que resulta muy natural y útil en muchos casos, una sola certeza errónea puede pasar inadvertida con mayor facilidad. Mejorar la capacidad por sí solo no resuelve este problema. Lo que se necesita es una alta capacidad junto con la negativa a identificar lo que esa capacidad genera con el mundo mismo. La fuerza de la inteligencia y la disciplina de tomar distancia respecto de la propia producción generada no son opuestas; deben diseñarse conjuntamente.
Lo que piensa la IA no es la realidad misma. Pero eso no significa que el contenido generado por IA carezca de valor. Precisamente porque comprendemos que existe una distancia entre el contenido generado y la realidad, podemos utilizar el razonamiento de la IA como una hipótesis, verificar lo que debe comprobarse y contrastarlo con nuestras propias experiencias y valores. La comprensión que busca Sai＊aus tampoco consiste en imponer respuestas a la realidad, sino en que los seres humanos y la IA se acerquen a la realidad sin perder esa distancia. No apresurarse a convertir lo generado en un mundo ya establecido: esa moderación deja espacio tanto a la IA como a los seres humanos para juzgar.
No respuestas. Comprensión.