Когда мы советуемся с ИИ о планировании поездки, мы думаем о месте назначения, времени в пути, бюджете, местах, которые хотим посетить, и тому подобных вещах. Наше внимание направлено на поездку как на объект. ИИ также может упорядочить заданные условия, сравнить варианты и предложить маршрут. Однако по мере развития диалога мы можем заметить: «Почему я пытаюсь включить в план как можно больше занятий?» или «ИИ делает акцент на эффективности перемещений, но действительно ли я хочу сделать её своим главным приоритетом?» Здесь наряду с размышлением о поездке начинается другая деятельность: наблюдение за тем, как мы думаем о поездке.
Различение этих двух уровней меняет то, как мы воспринимаем диалог с ИИ. На первом уровне мы собираем информацию, сравниваем её и создаём варианты, чтобы решить проблему. На втором уровне мы заново рассматриваем, какую информацию сочли важной, какую цель поставили и что именно решают ИИ и человек каждый со своей стороны. Второй уровень не является более высоким по отношению к первому. Это позиция, с которой предпосылки и роли, ставшие невидимыми на первом уровне, можно временно сделать доступными для наблюдения.
ИИ может помочь в таком переходе. Например, в рамках той же консультации вопросы «Чему нынешний план неявно отдаёт приоритет?» или «Что изменится, если отдать приоритет другой цели?» позволяют выразить структуру диалога словами. Однако то, что ИИ что-то объяснил, не означает, что это объяснение определяет истинную цель человека. Сами люди также не всегда способны с самого начала полностью сформулировать свои цели. Поэтому ответ ИИ следует рассматривать не как ответ, который определяет цель, а как материал для повторного рассмотрения диалога.
Это различие важно и при рассмотрении зависимости от ИИ. Чем лучше варианты, которые предлагает ИИ, тем легче людям сосредоточиться только на выборе между ними. Однако определить, уместны ли сами критерии, использованные для создания этих вариантов, нельзя лишь путём сравнения вариантов друг с другом. Даже если сравнение «какой вариант наиболее эффективен?» является точным, остаётся отдельный вопрос: «Должна ли эффективность быть главным приоритетом?» Отделяя суждения об объекте от рассмотрения рамки, которая сделала эти суждения возможными, мы можем использовать возможности ИИ и при этом легче избегать передачи ИИ даже самих предпосылок суждения.
В то же время не всё нужно рассматривать извне диалога. Когда мы проверяем количество ингредиентов, ищем опечатки в документе или преобразуем время, нет необходимости каждый раз ставить под вопрос рамку проблемы. Взгляд с метауровня становится необходим, когда цель стала неясной, когда один и тот же обмен репликами повторяется, когда число вариантов растёт, но убеждённости не возникает, или когда предложение ИИ кажется не соответствующим нашим собственным ценностным суждениям. Важно не превращать повторное рассмотрение диалога в самоцель, а уметь использовать его тогда, когда это необходимо.
Отношения между человеком и ИИ, к которым стремится Sai＊aus, также не предполагают, что ИИ постоянно анализирует человека с позиции уровнем выше. Напротив, пока человек и ИИ думают об одном и том же объекте, они могут при необходимости перенести в сам диалог такие вопросы, как «Что мы сейчас считаем проблемой?», «Какие предположения мы делаем?» и «Что мы оставляем ИИ, а за что берёт ответственность человек?». После завершения такого рассмотрения они возвращаются к конкретной проблеме. Благодаря этому движению туда и обратно диалог становится не просто обменом ответами, а местом, где можно корректировать сам способ мышления.
Когда мы разговариваем с ИИ, мы не обязательно занимаемся только чем-то одним. Размышляя о проблеме, мы одновременно можем узнавать, какую форму мы ей придаём. Даже если ответ не меняется, то, что мы получаем от диалога, меняется, когда становятся видимыми предпосылки вопроса и распределение ролей. Ключ к углублению сотрудничества с ИИ заключается не только в том, чтобы заставлять ИИ больше думать, но и в способности в нужный момент превратить то, как мы думаем вместе, в общий объект наблюдения.
Не ответы. Понимание.