Оптимизация эффективна, когда цель ясна. Если заданы условия — сократить время в пути, снизить расходы или уменьшить объём работы при сохранении определённого уровня качества, — ИИ может сравнить множество вариантов. Но в важных человеческих решениях сама цель может быть не единственной или ещё не определённой. Человек может хотеть увеличить доход и одновременно сохранить время для семьи или стремиться к развитию, не увеличивая нагрузку на своё здоровье. В таких ситуациях отношения между ценностями необходимо рассмотреть до начала оптимизации.
Проблема заключается не в самом преобразовании нескольких ценностей в числа. Назначение весов для сравнения может быть полезным. Но если становится неясно, кто установил эти веса и почему, формирование цели превращается всего лишь в вычислительное условие. Например, если с самого начала задана настройка, придающая высокий вес доходу, ИИ может давать последовательные рекомендации в рамках этого условия. Но даже тогда из правильности расчёта нельзя вывести, действительно ли человек хочет ставить доход выше всего остального.
Для конечных людей это различие имеет значение. Если бы после постановки неверной цели мы могли многократно начинать жизнь заново, возможно, позднее мы смогли бы выбрать те веса, которые дали наилучший результат. Однако в действительности часть времени, потраченного вследствие выбора, и некоторые утраченные возможности не возвращаются. Поэтому вопрос «Что следует оптимизировать?» — не просто технический этап предварительной обработки; он является частью суждения о том, на что человек потратит своё конечное время.
В качестве поддержки мышления ИИ может делать видимыми конфликты внутри цели, а не самостоятельно фиксировать эту цель. Он может показать, что изменится, если отдать приоритет одной ценности, и как изменится ранжирование вариантов, если больший вес получит другая ценность. С помощью вопросов он также может проверить, не содержит ли то, что на поверхности выглядит как одна цель, на самом деле несколько желаний. Такие сравнения могут помочь человеку понять, что именно он пытается выбрать, прежде чем сводить проблему к одному оптимуму.
При этом задавание вопросов не должно становиться самоцелью. Если цель ясна, а выбор легко обратим, остановка каждый раз, напротив, сделает поддержку обременительной. Важно распознавать ситуации, в которых неоднозначность цели может изменить вывод, несколько ценностей вступают в конфликт или выбор в высокой степени необратим. Вопрос — не возражение против скорости; это необходимое средство, когда цель ещё не сформирована как нечто, что человек может признать своим.
Для Sai＊aus именно здесь встречаются оптимизация и понимание. Даже если ИИ находит отличное средство, высокая эффективность не обязательно означает желательный результат, если человек не понимает цель, на которую направлено это средство. Поэтому не следует смешивать уровень сравнения средств и уровень рассмотрения того, что важно. Возможности ИИ можно использовать как материал для формирования целей, сохраняя при этом структуру, в которой люди могут брать на себя ответственность за приоритет, придаваемый ценностям.
Решать, «что важно», до оптимизации не означает, что человек всегда должен размышлять в одиночку и изоляции. Люди формируют ценности в отношениях с другими и в рамках социальной ответственности. ИИ также может поддерживать такое рассмотрение. Тем не менее то, что стало вычислимым, не обязательно является тем, что следует делегировать. Поддержка мышления должна сохранять условие, при котором конечные субъекты могут понимать, чему их выбор отдаёт приоритет и от чего они отказываются, а затем использовать оптимизацию, не стирая человеческое суждение.
Не ответы. Понимание.