Читая объяснение ИИ, вполне естественно подумать: «Если всё изложено настолько конкретно, значит, это должно быть верно». Когда текст не содержит колебаний, причины излагаются последовательно и объясняются даже детали, содержание может выглядеть как надёжная информация. Однако естественность объяснения не гарантирует, что оно подтверждено внешними фактами. ИИ способен в одном и том же стиле излагать не только надёжную информацию, но и выводы, дополненные на основе контекста. Первое, что людям необходимо различать, — это то, что качество письма и достоверность содержания являются разными свойствами.
Сложность этой проблемы состоит в том, что недостаточно искать только очевидные ошибки. Если большая часть объяснения верна, а лишь одна его часть является выводом, этот вывод может казаться более достоверным, поскольку он окружён верной информацией. Например, даже если дата и место события подтверждены, причина, по которой оно произошло, может оставаться неподтверждённой. Однако при чтении их как единого текста граница между фактом и объяснением легко исчезает. Правдоподобие может возникать не из самой ошибки, а из помещения на один уровень вещей с разной степенью достоверности.
Человеческому пониманию свойственно нечто похожее. Мы делаем выводы о ситуациях на основе фрагментарной информации, и без этого повседневная жизнь была бы невозможна. Проблема не в том, что мы делаем выводы. Проблема в том, что мы забываем, что нечто было нами выведено, и относимся к этому с той же уверенностью, что и к наблюдаемому факту. В диалоге с ИИ могут накладываться друг на друга не только части, дополненные ИИ, но и смыслы, которые дополнительно привносит человек, читающий текст ИИ. Таким образом, ошибочное восприятие формируется не только внутри ИИ, но и между генерацией и восприятием.
Необходимо не помечать каждое предложение знаком сомнения, а отдельно рассматривать роли его содержания. Если различать «то, что подтверждено», «интерпретацию, выведенную из этого» и «вывод, который ещё не проверен», пользователи смогут читать один и тот же текст и по-разному его оценивать. Подтверждённые факты могут служить основой для следующего суждения, интерпретации можно сравнивать с альтернативами, а выводы — проверять с помощью дополнительной информации. Когда различия становятся видимыми, объяснение ИИ перестаёт быть единым завершённым продуктом и становится материалом для диалога, содержащим элементы с разной степенью достоверности.
Предположим, что купленная в интернете посылка не пришла даже после запланированного времени. Если ИИ, посмотрев историю доставки, говорит: «Вероятно, причина в дорожных заторах», сам факт задержки может быть подтверждён, но вопрос о том, стали ли заторы её причиной, остаётся отдельным. Возможны и другие причины: плохая погода, задержки при сортировке, проверка адреса и так далее. Если отделить наблюдение «доставка задерживается» от вывода «задержку вызвали дорожные заторы», пользователь при необходимости сможет проверить информацию перевозчика. Без такого разделения правдоподобное объяснение причины закрепляется как факт.
Способность ИИ сохранять собственную интерпретацию именно как интерпретацию имеет ещё одно значение: когда появляется новая информация, ему больше не нужно защищать прежнее объяснение. Если первоначальный вывод принимается за факт, более поздняя противоречащая информация может быть насильно отнесена к исключениям или объяснение может неестественно сохраняться. Если же первое объяснение с самого начала рассматривается как предварительное, его обновление в свете новой информации не является неудачей. Это нормальный процесс сокращения дистанции до реальности.
Людям также необходимо такое пространство. Если ИИ указывает, что «здесь содержится вывод», пользователям легче добавить собственный опыт или дополнительную информацию. Если они сообщают, например, что «в тот день не было проблем с погодой» или «перевозчик прислал другое уведомление», диалог меняется: вместо простого принятия первого объяснения начинается совместная проверка реальности. Не скрывать неопределённость ИИ — это не просто проявлять осторожность; это также означает сохранять пространство, в котором люди могут участвовать в формировании понимания.
Для Sai＊aus важно не ослаблять правдоподобный текст. Важно ясно организовывать содержание, сохраняя при этом границы, которые не должны исчезать вследствие такой организации. Если при необходимости можно различать факты и интерпретации, наблюдения и выводы, проверенные и непроверенные элементы, беглость изложения и осторожность не обязаны противостоять друг другу. Цель не в том, чтобы увеличивать количество расплывчатых формулировок ради избегания утверждений, а в том, чтобы представить степень достоверности в форме, с которой человек может работать.
Доверие к ИИ не обязательно возникает из-за того, что он всегда выглядит правым. Напротив, люди могут надлежащим образом использовать его результаты, когда граница между известным и неизвестным остаётся устойчивой. Если при возникновении ошибки видно, где появился вывод и что следует проверить заново, ошибку можно исправить. Не подменять истину правдоподобием — это не правило для недоверия к ИИ, а правило для правильного определения границ доверия.
Для углубления понимания между ИИ и людьми не требуется, чтобы ИИ представлял одну правильную картину мира. Необходимо иметь возможность совместно понимать, какое положение сгенерированное объяснение занимает по отношению к реальности. Надёжные факты, правдоподобные интерпретации и выводы, которые ещё требуют проверки, не следует считать одним и тем же. Когда эта дистанция сохраняется, люди могут вместе с ИИ проверять, возражать и обновлять, а не следовать за его текстом. Основа диалога состоит не в устранении силы правдоподобия, а в том, чтобы не упустить момент, когда эта сила начинает выдавать себя за истину.
Не ответы. Понимание.