Сомнение в предпосылках расширяет свободу мышления. Однако если мы спросим: «Почему была принята эта предпосылка?», то затем можем спросить: «Какой критерий позволил считать эту причину обоснованной?», а после этого продолжить: «Какие основания оправдывали выбор этого критерия?» В принципе, операция переноса вопроса на один уровень выше не имеет конечной точки. Это проблема не только философии; она возникает и в сотрудничестве с ИИ. Если ИИ ставит под сомнение предпосылки пользователя, а затем продолжает спрашивать о целях и ценностных критериях, стоящих за каждым ответом, диалог может становиться точнее, одновременно утрачивая способность вернуться к суждению и действию.
Поэтому мышление на метауровне нельзя просто понимать по принципу «чем выше уровень абстракции, тем лучше». На объектном уровне мы имеем дело с конкретными вопросами: что выбрать, что написать, какое действие предпринять. На один уровень выше мы можем исследовать предпосылки и цели, поддерживающие эти суждения. Ещё выше мы можем исследовать критерии, по которым выбираются сами предпосылки. Однако каждое повышение уровня абстракции также несёт издержки удаления от конкретной ситуации. Ценность метауровня определяется не его высотой как таковой, а тем, позволяет ли он обнаружить различия, невидимые на объектном уровне, и вернуть эти различия в конкретное суждение.
Отсюда возникает проблема условий остановки. Первое условие — позволил ли переход на метауровень выявить новое различие, способное изменить выбор на объектном уровне. Предположим, мы не уверены, какой из двух планов выбрать, и рассмотрение цели более высокого уровня показывает, что только один из них не соответствует исходной цели. В таком случае переход на метауровень имеет ценность для суждения. И наоборот, если переход ещё на один уровень выше не меняет ни оценку вариантов, ни создаёт новую потребность в информации, такой подъём, возможно, лишь описывает ту же проблему другим словарём, а не углубляет понимание.
Второе условие касается соотношения между ценностью информации, получаемой благодаря дальнейшему рассмотрению на метауровне, и издержками задержки суждения. Решение с серьёзными последствиями для безопасности и повседневный выбор, который легко обратить, не требуют одинаковой глубины рассмотрения. Когда результаты необратимы, масштаб воздействия широк, а неопределённость высока, есть основания глубже исследовать предпосылки и критерии оценки. Однако в ситуации, когда можно с небольшими затратами что-то попробовать, наблюдать результат и затем скорректировать действие, информация, полученная посредством действия в небольшом масштабе, может быть ценнее ожидания полной проверки предпосылок. Поэтому условия остановки зависят не только от абстрактной правильности, но и от обратимости и ценности информации.
Третье условие — ответственность. Переход на метауровень не является операцией, предназначенной для исчезновения ответственного субъекта. Даже если мы понимаем, что «сами ценностные критерии относительны» или что «существуют альтернативные предпосылки», в реальной ситуации кому-то всё равно необходимо вынести суждение и принять на себя его последствия. Способность сравнивать несколько систем ценностей — не то же самое, что возможность откладывать суждение на неопределённый срок. Более того, чем зрелее становится мышление на метауровне, тем важнее понимать, что собственное суждение не является единственным необходимым выводом, и всё же уметь объяснить, почему при данных условиях принимается именно этот выбор.
В диалоговых системах, включающих ИИ, эта проблема остановки становится ещё важнее. ИИ способен за короткое время добавлять предпосылки, контрпримеры и альтернативные оси оценки, которые люди не рассматривали. Эта способность поддерживает мышление на метауровне, но одновременно может почти безгранично увеличивать число вопросов, доступных для рассмотрения. Если каждый дополнительный вопрос вызывает ощущение, что «возможно, осталось ещё что-то, чего мы не учли», возникает парадокс: чем способнее ИИ, тем труднее завершить принятие решения. Поэтому хорошая поддержка состоит не в предъявлении максимального числа вопросов, а в различении того, какие ещё не рассмотренные обстоятельства способны изменить суждение относительно текущей цели.
Здесь необходимо сохранять асимметрию между человеком и ИИ. ИИ может генерировать дополнительные точки зрения, выявлять противоречия между предпосылками и сравнивать последствия при изменении условий. Но то, какую потерю принять, какой ценности отдать приоритет и когда перейти к действию при сохраняющейся неопределённости, не определяется одним лишь объёмом рассуждений. ИИ может предложить остановиться, но тем самым он не принимает автоматически на себя ответственность за обоснование этой точки остановки. Субъектность человека в суждении проявляется не в способности рассмотреть больше вопросов, чем ИИ, но также в проведении границы между достаточным рассмотрением и действием.
Однако превращение условий остановки в фиксированные правила создаёт другую проблему. Формальные критерии вроде «остановиться после рассмотрения трёх уровней» или «двух противоположных мнений достаточно» игнорируют серьёзность проблемы и степень неопределённости. Важно не число уровней, а чувствительность текущего суждения. Изменится ли вывод при изменении предпосылки? Могут ли новые свидетельства обратить оценку? Есть ли заинтересованная сторона, которую упустили из виду? Можно ли скорректировать действие после его совершения? Когда чувствительность к таким условиям становится низкой, можно считать, что предельная ценность дальнейшего повышения уровня абстракции также снижается.
Для Sai＊aus смысл наличия метауровня также заключается в этом. Суть не в том, чтобы направлять диалог к бесконечному самоанализу, а в том, чтобы временно поднять на метауровень дискомфорт, возникший на объектном уровне, определить, находится ли различие в предпосылках, целях или критериях оценки, а затем вернуть результат к конкретному вопросу. Важен не подъём, а движение туда и обратно. Когда такое движение работает, мышление на метауровне становится не дополнительной рефлексией, задерживающей действие, а механизмом, который перестраивает представление суждения лишь в необходимой мере и вновь соединяет его с реальностью.
С этой точки зрения мышление на метауровне может потерпеть неудачу как минимум в двух направлениях. Первое — зафиксироваться на объектном уровне и продолжать оптимизировать один и тот же вопрос даже после изменения предпосылок. Второе — продолжать ставить предпосылки под сомнение до тех пор, пока тот факт, что всякое суждение имеет лишь предварительные основания, не превратится в причину не действовать. Первое — это ригидность мышления; второе — бесконечный регресс мышления. Необходим не простой компромисс между ними, а изменяемая структура, способная перемещаться между объектным и метауровнем в зависимости от характера проблемы.
Если оценивать такую структуру, одного вопроса «Насколько глубоко мы размышляли?» недостаточно. Нужно выяснить, позволил ли переход на метауровень обнаружить важную предпосылку, прояснил ли условия, способные изменить суждение, разделил ли источники неопределённости, сделал ли объяснимыми причины окончательного выбора и позволил ли в необходимый момент вернуться к конкретному действию. Качество мышления на метауровне следует оценивать не по высоте абстракции, а по тому, создаёт ли оно понимание, недоступное на объектном уровне, и вновь связывает ли это понимание с суждением.
Способность мыслить на один уровень выше важна, но зрелость интеллекта нельзя определять только этим. Не менее важно, чем способность ставить под сомнение собственные предпосылки и даже исследовать предпосылки, стоящие за самим этим сомнением, знать, где остановить вопросы, принять предварительное понимание и вернуться к реальности. Метауровень — не убежище для мышления, а временная позиция, с которой объектный уровень можно пересмотреть в иной форме. Подняться, обнаружить различие и вернуться: только когда этот цикл устанавливается, мышление на метауровне становится не бесконечной саморефлексией, а практической структурой, посредством которой люди и ИИ могут обновлять суждение.
Не ответы. Понимание.