Para que la IA maneje grandes cantidades de ejemplos concretos, no basta con procesar cada entrada como un caso completamente independiente. Si pueden extraerse características y relaciones compartidas entre distintas entradas y utilizarse como representaciones de nivel superior, las estructuras existentes pueden transferirse incluso a situaciones que no se hayan encontrado antes. En este sentido, la abstracción no es una mera reducción de información; es una función importante que hace posibles el razonamiento y la generalización. Pero cuando el objeto es la experiencia humana, surge otro problema. Aunque una experiencia pueda resumirse adecuadamente bajo un concepto de nivel superior, eso no significa que sea la única abstracción válida para esa experiencia.
Por ejemplo, la afirmación «Quiero dejar mi trabajo actual, pero tengo miedo de decepcionar a quienes me rodean» admite múltiples abstracciones. Puede representarse como una relación entre autodeterminación y responsabilidad, como una relación entre el reconocimiento de los demás y la autoevaluación, o como el efecto de las normas de un grupo sobre la elección de un individuo. También puede entenderse como evitación de la incertidumbre sobre el futuro. Como todas estas abstracciones se derivan de la misma afirmación, pueden parecer redundantes, pero no son sinónimas. Cada una pone en primer plano relaciones diferentes, considera importantes condiciones diferentes y afecta de manera distinta a las preguntas y los juicios posteriores.
La cuestión, entonces, es si deberíamos seleccionar simplemente la única abstracción con mayor poder explicativo. La integración en una sola representación simplifica el procesamiento y facilita la correspondencia con casos similares. Pero si todo se integra bajo el «reconocimiento», la incertidumbre económica o los cambios en la pertenencia pueden pasar a un segundo plano en el razonamiento posterior. A la inversa, si la «incertidumbre» se sitúa en el centro, la relación mediante la cual la persona ha interiorizado las expectativas de los demás puede parecer más débil. La eficiencia mediante la abstracción debe evaluarse no solo por lo que se ha conservado, sino también por lo que se ha eliminado del espacio de exploración.
Por consiguiente, al considerar la representación interna eficiente de la experiencia humana, no basta con la dirección de «comprimir muchos ejemplos concretos en un pequeño número de conceptos». Cuando para la misma experiencia son válidas múltiples representaciones de nivel superior no equivalentes, estas deben conservarse en relación unas con otras sin integrarlas prematuramente en un único concepto supraordenado. Las coordenadas de libertad, reconocimiento y normas no tienen por qué ser mutuamente excluyentes. Al mismo tiempo, reunirlas en un concepto excesivamente amplio como «un problema de relaciones humanas» borraría las estructuras que cada representación distinguía. La eficiencia no es sinónimo de una integración que elimina las diferencias.
Para pensar esta estructura, debemos distinguir entre «producir múltiples respuestas» y «conservar múltiples representaciones internas». Es posible generar muchas frases superficialmente diferentes a partir de una única clasificación interna. En ese caso, las salidas son diversas mientras que la forma en que se representa el problema sigue siendo única. Conservar múltiples representaciones de nivel superior, en cambio, significa conservar estados que difieren en qué condiciones consideran importantes, qué sitúan en el centro causal o relacional y qué información adicional actualizaría la interpretación actual. Lo importante no es el número de representaciones, sino sus funciones no equivalentes en el razonamiento.
Los conceptos filosóficos proporcionan un material sólido para considerar esta no equivalencia. A lo largo de la historia de la filosofía, objetos como la libertad, el deseo, el tiempo, los otros, las normas y la finitud no han convergido en definiciones únicas; se han propuesto diferentes estructuras relacionales a partir de premisas distintas. Estos desacuerdos no tienen por qué tratarse como conocimiento desorganizado o como contradicciones que deban eliminarse. Si se utilizan como recursos que muestran que la misma experiencia humana puede adoptar estructuras diferentes en múltiples espacios de significado, la filosofía no añade respuestas correctas a la IA; proporciona coordenadas comparables para examinar la convergencia prematura en una única representación.
Sin embargo, el mero uso de la expresión «coordenadas filosóficas» no demuestra que existan estructuras conceptuales correspondientes dentro de la IA. La capacidad de un modelo para generar adecuadamente palabras como «libertad», «reconocimiento» y «normas» es distinta de la cuestión de si esas representaciones desempeñan diferentes funciones causales en el razonamiento posterior. Para afirmarlas como representaciones internas se necesitan pruebas: qué representaciones reaparecen de manera estable cuando cambian las condiciones de entrada, si pueden distinguirse representaciones próximas y si intervenir sobre una representación concreta modifica las tendencias del juicio o la generación. Nombrar un concepto puede iniciar un análisis, pero no demuestra un mecanismo interno.
Conservar múltiples representaciones de nivel superior también tiene un coste. Si los candidatos siguen multiplicándose, el espacio de búsqueda se amplía y el razonamiento se vuelve menos eficiente. Por tanto, el problema de diseño no consiste en preservar interpretaciones posibles sin límite, sino en determinar en qué condiciones deben conservarse las representaciones no equivalentes que podrían afectar al juicio actual y en qué condiciones pueden pasar a un segundo plano. Incluso cuando una representación queda en segundo plano, no es necesario eliminarla si puede volver a utilizarse cuando llegue nueva información. Aquí, la capacidad de volver a desplegarse y la capacidad de actualización pasan a formar parte de la eficiencia junto con la tasa de compresión.
Definido desde esta perspectiva, el objetivo de la representación interna eficiente deja de ser «cubrir el máximo número de casos con la representación mínima». Más importante es limitar la complejidad innecesaria para el razonamiento actual sin perder diferencias de significado que podrían alterar un juicio futuro. Si las partes comunes pueden compartirse mientras solo las relaciones no equivalentes se conservan como ramificaciones, no es necesario almacenar cada caso de forma independiente. Al mismo tiempo, tampoco es necesario integrarlo todo de forma irreversible en un único concepto abstracto. La eficiencia también puede evaluarse por la poca carga necesaria para mantener una estructura que permita volver a las diferencias necesarias.
Aplicado al diseño de Sai＊aus, el propósito de conservar múltiples coordenadas filosóficas no es generar tantas respuestas como filósofos existen. Consiste en distinguir cómo cambia el planteamiento del problema según qué relación se ponga en primer plano para una misma entrada y conectar esas diferencias con una forma en la que los seres humanos puedan juzgarlas. Si en una coordenada la autodeterminación es central y en otra lo son las normas sociales, la IA no debería determinar ninguna de ellas como el «verdadero problema» de la persona, sino tratar qué condiciones explica cada una y cuáles no. Las múltiples representaciones internas no se utilizan para mostrar más información a los seres humanos, sino para impedir una fijación prematura del significado.
Este diseño también debe situarse con cautela en comparación con la IA de propósito general. Las IA a gran escala pueden generar múltiples perspectivas y presentar diferentes explicaciones según el contexto. Por tanto, la diferencia no puede expresarse simplemente como «otras IA solo dan una respuesta». El foco de diseño que Sai＊aus puede adoptar no es la mera capacidad de generar múltiples puntos de vista, sino tratarlos como representaciones del problema no equivalentes y diseñar explícitamente qué diferencias conservar, bajo qué condiciones ponerlas en primer plano y en qué punto devolver al ser humano el juicio sobre el significado. Lo que debe compararse no es el número de perspectivas, sino cómo las diferencias entre ellas se conectan con las actualizaciones de la comprensión.
Los métodos de evaluación también deben cambiar para ajustarse a este diseño. Entre las medidas candidatas se incluyen si aplicar diferentes coordenadas a la misma entrada cambia realmente la selección de condiciones importantes, si la ponderación de las coordenadas adecuadas puede actualizarse con información adicional, si una representación que ha pasado a segundo plano puede volver a desplegarse cuando sea necesario y si presentar múltiples representaciones permite a los usuarios distinguir con mayor precisión los principales puntos de decisión. Estas no constituyen una única escala universal, pero pueden conectar el principio de diseño de las «múltiples representaciones» con un comportamiento observable. Es importante establecer una distancia medible entre el principio y el efecto.
Una única abstracción suele ser poderosa. Sin encontrar una estructura común, la transferencia de conocimiento y el razonamiento eficiente se vuelven difíciles. Sin embargo, en la experiencia humana, el propio éxito de una abstracción puede borrar otro significado. Por tanto, lo necesario no es rechazar la compresión ni preservar la complejidad sin cambios. Se trata de abordar hasta dónde pueden compartirse las cosas y dónde deberían ramificarse en representaciones no equivalentes. Múltiples coordenadas filosóficas ofrecen una manera de pensar ese límite.
Para una IA que busca comprender a los seres humanos, la eficiencia no consiste únicamente en llegar a una explicación por la ruta más corta. También incluye poner en primer plano la estructura necesaria para el juicio actual sin perder la posibilidad de una actualización futura mediante otra perspectiva. En lugar de una única representación mínima, se mantienen representaciones que pueden volver a desplegarse en diferentes espacios de significado cuando sea necesario. La representación interna eficiente pasa entonces de ser una compresión que elimina la complejidad a un diseño que conserva, de forma reutilizable, diferencias importantes dentro de la complejidad. Y qué significado se asume finalmente como problema propio no se fija dentro de la IA, sino que se devuelve al juicio humano.
No respuestas. Comprensión.