Si a una IA se le da el objetivo de «duplicar las ventas», puede descomponer las medidas necesarias para alcanzarlo y comparar opciones teniendo en cuenta los recursos y el tiempo. Pero incluso un mismo objetivo de duplicar las ventas puede tener razones diferentes. ¿Es necesario para mantener viable el negocio, para financiar una nueva inversión, para alcanzar a un competidor o porque el propio crecimiento de la organización se considera un éxito? El significado del objetivo cambia según la razón.
Si solo se procesa el objetivo, estas diferencias quedan fuera de la misma función objetivo. La IA puede buscar racionalmente formas de acercarse a la cifra dada sin poder tratar por qué esa cifra es necesaria. Cuando cambian las condiciones del mundo real, puede mantener el mismo objetivo mientras revisa únicamente los medios. Sin embargo, si ha desaparecido la razón que sustentaba el objetivo, puede ser necesario revalidar el objetivo antes de mejorar los medios.
Supongamos que la razón para ampliar las ventas era «asegurar beneficios suficientes para preservar el empleo actual». Más adelante, los costes fijos disminuyen y el empleo puede mantenerse con unas ventas sustancialmente menores. Entonces ha cambiado la necesidad del objetivo de duplicar las ventas. Si, por el contrario, la razón era «crear fondos de inversión para llevar el servicio a una nueva región», el mismo cambio de condiciones puede conducir a un juicio diferente. La validez de un objetivo no puede evaluarse a partir del objetivo por sí solo.
Por tanto, «¿por qué este objetivo?» no es una explicación complementaria, sino parte de la estructura del razonamiento. Si los objetivos y las razones se relacionan explícitamente, es posible ver qué supuesto se vio afectado por la realidad después de la acción. Si la razón se mantiene, respalda la continuidad del objetivo; si cambia, puede activar una revalidación. La razón no debe preguntarse una sola vez y quedar fijada. También debe tratarse como algo que puede cambiar con el tiempo y la experiencia.
Además, las personas no siempre pueden explicar por completo sus razones desde el principio. Alguien puede decir que «quiere crecer», pero mediante el diálogo y la acción puede quedar claro que quiere más tiempo libre, reconocimiento de los demás o un impacto social más amplio. Si la IA fija la primera explicación como el verdadero motivo, la comprensión que surja después se tratará como una excepción.
El papel del razonamiento aquí no es adivinar un motivo humano oculto. Consiste en organizar los desajustes entre el objetivo y la razón declarados, las reacciones que aparecen después de la acción y los cambios en las condiciones, de modo que la persona pueda volver a describir la razón. En lugar de diagnosticar «lo que realmente quiere es reconocimiento», la IA puede preguntar: «Al principio indicó el crecimiento como razón, pero sus decisiones recientes priorizan el tiempo libre. ¿Afecta esta diferencia al objetivo?».
Esto tampoco consiste en hacer que el razonamiento sea infinitamente profundo. Si cada pequeño objetivo se somete a una indagación interminable sobre sus razones, actuar se vuelve imposible. Se necesita un tratamiento más profundo allí donde volver a comprobar la razón podría cambiar el juicio; por ejemplo, cuando el coste de cambiar el objetivo es alto, el impacto a largo plazo es grande o la realidad ha devuelto una diferencia importante. Los recursos de razonamiento deberían asignarse según la importancia y la incertidumbre del propósito.
En la Representación Interna de Eficiencia de Sai＊aus, también tiene valor relacionar «lo que la persona quiere hacer» con «por qué quiere hacerlo» en la medida necesaria. Mantener únicamente un objetivo compacto reduce el procesamiento, pero hace que se pierdan los fundamentos necesarios para comprobar su validez más adelante. Tampoco es la solución conservar todos los detalles de contexto. El diseño debe preservar las razones y los supuestos que podrían cambiar un juicio futuro, a la vez que comprime aquello que no necesita permanecer.
Para una IA que apoya la consecución de objetivos, es importante comprender con precisión el propósito dado. Pero si los propósitos humanos pueden cambiar, el objeto de la comprensión no puede ser únicamente la formulación del objetivo. Solo representando también qué razones sustentan el objetivo y qué cambios en las condiciones exigirían una revalidación puede devolverse al propósito la realidad posterior a la acción.
Preguntar «¿por qué este objetivo?» antes de optimizar no es solo una forma de poner en duda el objetivo. También puede aclarar las razones para continuarlo. Si la acción refuerza la razón, el objetivo queda más fundamentado que antes. Si la razón cambia, el objetivo puede reabrirse. El razonamiento avanzado no consiste únicamente en alcanzar rápidamente un propósito dado; también consiste en distinguir las condiciones bajo las cuales ese propósito puede permanecer fijo de aquellas bajo las cuales debería volver a cuestionarse.
No respuestas. Comprensión.