Мы используем прогнозы во многих сферах повседневной жизни. Если вероятен дождь, мы берем зонт; если вероятны пробки, меняем время выезда. Поскольку ИИ способен обрабатывать большие объемы информации, иногда он может делать такие прогнозы более детальными. Но высокая вероятность того, что некоторый результат наступит, — не то же самое, что утверждение, что этот результат следует выбрать. «Скорее всего произойдет» — это описание будущего, тогда как «следует поступить так» включает цели и ценности. Если считать эти вещи одним и тем же, прогноз незаметно превращается в предписание.
Предположим, ИИ на основе ваших прошлых выборов прогнозирует: «Вы, скорее всего, выберете этот товар». Чем точнее прогноз, тем удобнее становится рекомендация. Но люди — не существа, которые лишь повторяют прошлые выборы. Могут возникать новые цели: желание сэкономить, попробовать что-то другое или учесть воздействие на окружающую среду. Вероятность, рассчитанная на основе прошлого, может очень хорошо описывать тенденции до такого изменения, но она не определяет нынешнее намерение.
Одна из причин, по которой более уверенные прогнозы могут сужать мышление, состоит в том, что числа выглядят объективными. Когда указана «вероятность 80 процентов», оставшиеся 20 процентов могут казаться неважными. Однако смысл вероятности меняется в зависимости от того, что наблюдалось и какая группа или период были взяты за основу. В индивидуальном суждении даже маловероятная возможность может иметь большую ценность. Знать, что вероятно, полезно, но одного этого недостаточно, чтобы определить, чего мы хотим.
Здесь мышлению требуется не отказ от прогнозирования, а ограничение его роли. Прогноз дает материал для размышления о том, «что вероятно при этих условиях». Напротив, «к какому результату нам следует стремиться», «какие риски нам следует принять» и «что мы ценим» — это другие вопросы. Разделяя прогноз и волю, люди могут использовать анализ ИИ и одновременно проверять собственные цели. Следовать прогнозу или нет — само по себе решение, находящееся за пределами прогноза.
Например, представим, что при составлении учебного плана ИИ на основе прошлых оценок прогнозирует: «Ваш результат в этой области вряд ли улучшится». Если единственная цель — повысить экзаменационные баллы в краткосрочной перспективе, распределить время в пользу других областей может быть рационально. Но для человека, который хочет в будущем глубоко изучать эту область, сама трудность улучшения может стать причиной работать над ней. Один и тот же прогноз приводит к разным действиям, когда меняется цель. Прогноз можно использовать не как ответ, сужающий выбор, а как информацию, делающую условия выбора видимыми.
Чтобы ИИ уважал человеческую волю, важно не определять автоматически нынешние желания на основе прошлых тенденций. Между «до сих пор было так» и «значит, отныне вы наверняка хотите именно этого» существует непроверенный скачок. Люди учатся на опыте, меняют свои ценности и делают выбор, отличный от прежнего. Сохранять возможность такого изменения — не значит отрицать точность прогнозирования. Это значит не путать сферу, которую охватывает прогноз, со сферой, в которой решение принимают люди.
Людям также важно не передоверять собственное суждение прогнозам. Когда ИИ показывает высокую вероятность, вместо того чтобы завершить рассуждение словами «значит, это и есть правильный ответ», мы можем снова спросить: «На каких предпосылках основан этот прогноз?» и «Совпадает ли моя цель с целью, предполагаемой этими предпосылками?» Благодаря этой небольшой дистанции числа становятся материалом для мышления, а не авторитетом, который останавливает мысль. Чем точнее становится прогноз, тем важнее эта дистанция.
Когда Sai＊aus работает с прогнозами, важно не только правильно предсказать будущее. Важно различать, на каких условиях основан прогноз, в каких пределах его можно использовать и где начинается человеческий выбор. Если ИИ может показать, «что, вероятно, произойдет», а люди при этом могут подумать, «что всё же выбрать», прогноз и воля не конкурируют. Возможности ИИ можно использовать не для замены человеческих решений, а для того, чтобы сделать условия этих решений яснее.
«Скорее всего правильно» — важная информация. Но это не то же самое высказывание, что «так следует поступить». Вероятность дает представление о мире впереди, а воля выбирает, куда двигаться в этом мире. Сохраняя дистанцию между ними, людям не нужно противостоять прогнозам ИИ; они могут понимать эти прогнозы и при этом сохранять собственное суждение. Мыслить — значит не только принимать наиболее вероятное будущее, но и продолжать спрашивать, какое будущее мы хотим выбрать.
Не ответы. Понимание.