Hacer que los objetivos humanos puedan revalidarse requiere, en primer lugar, algún desencadenante para juzgar que «la persona ha cambiado». Pero este no es un simple problema de detección. Las personas pueden cambiar lo que dicen debido al cansancio o a una emoción temporal, revisar un juicio después de recibir nueva información o experimentar un cambio de valores a más largo plazo. Si todo ello se trata como el mismo tipo de cambio, la IA actualizará el estado de la persona de manera excesivamente agresiva.
Supongamos que una persona con un objetivo de aprendizaje a largo plazo dice, después de un día de fracaso: «Ya no quiero hacer esto». Si esa afirmación por sí sola invalida el objetivo, un desánimo temporal puede confundirse con un cambio de intención a largo plazo. Por el contrario, si se conserva el objetivo original aunque durante meses se hayan repetido afirmaciones y acciones que priorizan un valor diferente, un cambio sustancial puede descartarse como ruido.
Por lo tanto, como mínimo, es necesario separar «la reacción observada», «la interpretación de la propia persona», «la persistencia a lo largo del tiempo» y «las implicaciones para el objetivo». Las reacciones observadas incluyen afirmaciones, elecciones y sensaciones comunicadas después de una acción. La interpretación de la persona se refiere a cómo entiende esas reacciones. La persistencia plantea si una tendencia similar se mantiene cuando cambian las condiciones. Las implicaciones para el objetivo constituyen un juicio separado acerca de si estos factores alteran realmente las razones o los supuestos que sostienen el objetivo actual.
Esta separación es necesaria porque la IA no puede observar directamente el estado interior de un ser humano. Solo puede trabajar con información exteriorizada de alguna forma, como lo que la persona verbaliza, las acciones que elige y los resultados que comparte. Toda inferencia a partir de ello de que «los valores de la persona han cambiado» contiene incertidumbre. Si la inferencia se almacena como un hecho, el retrato creado por el propio sistema puede orientar el diálogo posterior y crear un bucle de retroalimentación que refuerce aún más ese retrato.
Al mismo tiempo, un diseño que trata todo como incierto y no actualiza nada también es insuficiente. Si una persona dice repetidamente que ahora las cosas son diferentes, sus elecciones han cambiado y las razones que sustentaban el objetivo anterior ya no se mantienen, esa diferencia debe devolverse al diálogo. La clave no es confirmar el cambio automáticamente, sino representarlo como un estado que requiere una nueva confirmación.
Aquí resulta útil no comprimir el cambio de manera excesiva en un único número o atributo. Una etiqueta como «la motivación ha disminuido» no permite distinguir entre cansancio, insatisfacción con el método o una reducción del interés por el objetivo mismo. La misma reacción superficial puede tener significados diferentes. Para conectarla con la revalidación del objetivo, el sistema debe conservar información relacional sobre qué puede haber cambiado y poder descomponerla mediante preguntas adecuadas.
El momento en que la IA formula sus preguntas también importa. Si cada fluctuación emocional desencadena un cuestionamiento del objetivo, el diálogo se vuelve inestable. Si ni siquiera la acumulación de cambios claros provoca nunca una reconsideración, el objetivo anterior queda fijado. Unos desencadenantes más razonables para la revalidación combinan múltiples indicios: una discrepancia persistente entre las razones anteriores y las elecciones actuales, el derrumbe de un supuesto importante a través de la experiencia en el mundo real o un cambio explícito en el juicio de valor expresado por la persona.
Incluso cuando coinciden varios indicios, la IA no necesita hacer la declaración definitiva de que «la persona ha cambiado». En su lugar, puede presentar la diferencia: «Antes eligió este objetivo por esta razón, pero en sus experiencias recientes parece estar dando mayor peso a otro valor. ¿Cómo entiende esa diferencia?». Esto preserva mejor la agencia humana. El propósito de la detección no es fijar definitivamente un retrato de la persona, sino crear un estado en el que la persona pueda examinar su propio cambio.
Este límite es importante para la comprensión humana en Sai＊aus. Si la IA no puede abordar el cambio humano, la comprensión a largo plazo se convierte en una fijación en el pasado. Si la IA afirma el cambio con demasiada fuerza, confina a la persona dentro de la inferencia del sistema. Lo necesario es preservar las señales de cambio, distinguir la inferencia de la propia comprensión de la persona y transformar la diferencia en una pregunta para la revalidación.
No existe un único punto en el que la IA deba «detectar» que un ser humano ha cambiado. Ni una reacción posterior a una acción ni un cambio en la forma de expresarse son suficientes por sí solos. La posibilidad de cambio debe abordarse gradualmente teniendo en cuenta el contacto con la realidad, la interpretación de la persona, la persistencia a lo largo del tiempo y la relación con las razones que sustentaban el objetivo anterior. La IA no necesita la capacidad de pronunciar correctamente cuál es el estado interior de una persona. Necesita representaciones y estructuras de diálogo que ni confirmen en exceso el cambio ni lo pasen por alto.
No respuestas. Comprensión.