Когда мы просим ИИ «показать предпосылки, которые я, возможно, упускаю», «привести противоположные точки зрения» или «отделить моменты, в которых ты не можешь быть уверен», мы получаем материал для повторного рассмотрения суждения как бы на шаг со стороны. Можно ожидать, что такие функции будут поддерживать метакогницию. Однако само по себе чтение множества точек зрения или ощущение того, что мы стали осторожнее, не доказывает улучшения способности выносить суждения. Если мы оцениваем это в рамках исследования, необходимо заранее определить, какие изменения, вызванные поддержкой, будут считаться «улучшением».
Один из показателей — калибровка. Калибровка касается того, насколько точно правильность суждения соответствует уровню уверенности человека. Высокая уверенность, когда суждение верно, и способность снижать уверенность, когда оно ошибочно, могут быть предпочтительнее просто высокой уверенности. Если ИИ представляет контрпримеры и неопределённость, а результатом становится лишь то, что пользователи теряют уверенность во всём, это не обязательно является улучшением. Важно, начинает ли уровень уверенности более адекватно соответствовать силе доказательств.
Второй показатель — обнаружение ошибок. Можно сравнивать, насколько хорошо пользователи, получающие поддержку ИИ, выявляют ошибочные предпосылки, противоречия и недостаточность доказательств в собственных рассуждениях или в выводах ИИ. Однако если ИИ прямо указывает им, где находится ошибка, улучшение результатов неудивительно. Чтобы оценивать поддержку метакогниции, необходимо разделять условия, в которых даётся ответ, и условия, в которых предоставляются только перспективы для анализа. Проверяя, могут ли пользователи после получения поддержки обнаруживать ошибки в других задачах, можно исследовать различие между улучшением суждений и простой зависимостью от ответов.
Третий вопрос — перенос. Если люди, получившие в одной задаче поддержку в виде рекомендации «проверять предпосылки», впоследствии начинают самостоятельно проверять предпосылки в другой области, такая поддержка выходит за рамки временного улучшения выполнения задачи. И наоборот, если они становятся осторожными только в присутствии ИИ и возвращаются к прежнему способу суждения, когда поддержка исчезает, система, возможно, функционирует скорее как внешнее вспомогательное средство, чем как средство формирования способности. Ни то ни другое само по себе не является плохим, но утверждения об эффекте должны различать эти случаи.
Нельзя игнорировать и время принятия решения. Поддержка метакогниции часто требует дополнительных проверок. Если точность улучшается лишь незначительно, а время выполнения простых задач с низким риском существенно возрастает, практическая ценность такой поддержки может быть ограниченной. Напротив, при решениях, где возможны серьёзные потери, дополнительное время может быть приемлемым. Поэтому эффекты необходимо оценивать не только по точности, но и в сочетании с риском задачи, временем и когнитивной нагрузкой.
Необходимо также рассмотреть возможность того, что поддержка усиливает чрезмерную уверенность. Тот факт, что «ИИ проверил даже противоположные точки зрения», может дать пользователям чрезмерное чувство уверенности. Даже если система представляет несколько перспектив, исходная информация может быть ошибочной или важные перспективы всё ещё могут отсутствовать. Если само наличие метакогнитивной поддержки воспринимается как гарантия качества, функция поддержки становится новым авторитетом.
И наоборот, чрезмерные предупреждения могут сделать вынесение суждения невозможным. Если ИИ каждый раз представляет множество контрпримеров, неопределённостей и дополнительных условий, пользователи могут постоянно ощущать, что «мы всё ещё рассмотрели недостаточно». Поэтому в исследовании необходимо варьировать не только наличие или отсутствие поддержки, но и частоту и момент вмешательства. Метод, который вмешивается только при наличии признаков ошибки, может иметь иное соотношение между точностью и нагрузкой, чем метод, который вмешивается постоянно.
Условия сравнения также важны при планировании эксперимента. Простое сравнение наличия и отсутствия поддержки ИИ затрудняет отделение эффекта простого увеличения объёма информации от эффекта метакогнитивной поддержки. Условия, в которых предоставляется тот же объём дополнительной информации, только противоположные точки зрения или участникам предлагается самостоятельно перечислить предпосылки, помогают более подробно исследовать, какое вмешательство на что влияет. Эффекты также могут различаться в зависимости от типа задачи и опыта участников.
Необходимо также различать краткосрочную результативность суждений и долгосрочное формирование способности. Если ИИ компенсирует слабое место в конкретный момент, непосредственные результаты могут улучшиться. Но вопрос о том, повышает ли длительное использование собственную способность пользователей анализировать суждения или, напротив, усиливает зависимость от внешней поддержки, является отдельным. Это различие можно исследовать, оценивая пользователей без поддержки после длительного использования и измеряя перенос на другие задачи.
При оценке такого дизайна, как Sai＊aus, который делает акцент на обновлении понимания, самоотчёта о том, что «пользователь почувствовал, что стал размышлять глубже», недостаточно. Необходимо измерять, при каких условиях улучшилось обнаружение ошибок, изменилась ли калибровка уверенности, переносилась ли корректировка предпосылок на другие задачи и сохранялась ли самостоятельность субъекта при вынесении суждения. В то же время важно не предполагать улучшение во всех ситуациях, а фиксировать и условия, в которых эффекты слабы или неблагоприятны.
Ценность ИИ, поддерживающего метакогницию, не устанавливается одним лишь привлекательным принципом. Только проверяя, когда, в каких задачах и по каким показателям способность человека пересматривать собственное мышление приводит к улучшению, можно связать проектные утверждения с эмпирическими эффектами. Между тем, что ИИ выглядит так, будто «заставляет людей думать», и фактическим улучшением человеческих суждений существует дистанция, которую необходимо измерять. Исследовать, сохраняя эту дистанцию, — та осторожность, которая требуется от дизайна, заявляющего о поддержке понимания.
Не ответы. Понимание.