Если ИИ задана цель «удвоить продажи», он может разложить необходимые для её достижения меры и сравнить варианты с учётом ресурсов и времени. Но даже одна и та же цель удвоить продажи может иметь разные причины. Нужно ли это для сохранения жизнеспособности бизнеса, для финансирования новых инвестиций, чтобы догнать конкурента, или потому, что сам рост организации считается успехом? Значение цели меняется в зависимости от причины.
Если обрабатывается только цель, эти различия оказываются за пределами одной и той же целевой функции. ИИ может рационально искать способы приблизиться к заданному числу, не имея возможности учитывать, почему это число необходимо. Когда условия реального мира меняются, он может сохранять ту же цель, пересматривая только средства. Однако если причина, поддерживавшая цель, исчезла, повторная проверка обоснованности цели может потребоваться раньше, чем улучшение средств её достижения.
Предположим, причиной увеличения продаж было «обеспечить достаточную прибыль для сохранения текущей занятости». Позже постоянные издержки снижаются, и занятость можно поддерживать при существенно меньших продажах. Тогда необходимость цели удвоить продажи изменяется. Если же причиной было «создать инвестиционные средства, чтобы предоставить услугу в новом регионе», то такое же изменение условий может привести к иному суждению. Обоснованность цели нельзя оценить, исходя только из самой цели.
Поэтому вопрос «почему именно эта цель?» — не дополнительное пояснение, а часть структуры рассуждения. Если явно связать цели и причины, становится возможным увидеть, на какую предпосылку повлияла реальность после действия. Если причина сохраняется, она служит основанием для продолжения следования цели; если она меняется, это может стать поводом для повторной проверки её обоснованности. Причину не следует просто выяснить один раз и затем зафиксировать. Её тоже необходимо рассматривать как нечто, что может меняться со временем и опытом.
Кроме того, люди не всегда способны с самого начала полностью объяснить свои причины. Человек может сказать, что «хочет расти», но в ходе диалога и действий может выясниться, что на самом деле он хочет больше свободного времени, признания со стороны других или более широкого социального воздействия. Если ИИ зафиксирует первое объяснение как истинный мотив, понимание, появившееся позже, будет рассматриваться как исключение.
Роль рассуждения здесь не в том, чтобы угадывать скрытый человеческий мотив. Она состоит в том, чтобы упорядочить несоответствия между заявленными целью и причиной, реакциями, возникающими после действия, и изменениями условий, чтобы человек мог заново описать причину. Вместо диагноза «на самом деле вы хотите признания» ИИ может спросить: «Изначально вы называли причиной рост, но в последних решениях отдаёте приоритет свободному времени. Влияет ли это различие на цель?»
Речь также не идёт о том, чтобы делать рассуждение бесконечно глубоким. Если для каждой небольшой цели бесконечно выяснять причины, действовать станет невозможно. Более глубокое рассмотрение необходимо там, где повторная проверка причины может изменить суждение, — например, когда стоимость изменения цели высока, долгосрочное влияние велико или реальность выявила существенное расхождение. Ресурсы для рассуждения следует распределять в соответствии с важностью и неопределённостью цели.
Во Внутреннем Представлении Эффективности Sai＊aus также имеет смысл в необходимой степени связывать «что человек хочет сделать» с «почему он хочет это сделать». Сохранение только компактно сформулированной цели снижает объём обработки, но при этом утрачиваются основания, необходимые для последующей проверки её обоснованности. Сохранять все фоновые детали — тоже не решение. В проектировании необходимо сохранять причины и предпосылки, способные изменить будущие суждения, одновременно сжимая то, что сохранять не требуется.
Для ИИ, поддерживающего достижение целей, важно точно понимать заданную цель. Но если человеческие цели могут меняться, объект понимания не может ограничиваться только формулировкой цели. Только если также представлять, какие причины поддерживают цель и какие изменения условий потребуют повторной проверки её обоснованности, можно вернуть реальность после действия обратно к цели.
Задавать перед оптимизацией вопрос «почему именно эта цель?» — не только способ поставить цель под сомнение. Это также может сделать яснее причины для её продолжения. Если действие усиливает причину, цель становится более обоснованной, чем прежде. Если причина меняется, цель можно вновь открыть для пересмотра. Продвинутое рассуждение — это не только быстрое достижение заданной цели, но и способность различать условия, при которых эту цель можно сохранять неизменной, и условия, при которых её следует снова поставить под вопрос.
Не ответы. Понимание.