В исследованиях и практической реализации ИИ всё чаще систематизирует литературу, генерирует гипотезы и предлагает возможные объяснения наблюдений. Проблема заключается не только в том, что созданные гипотезы могут оказаться ошибочными. Логически связное объяснение может быть включено в документы, а затем повторно использовано в последующей работе как «уже проверенная предпосылка». Как только его статус меняется таким образом, исходная неопределённость становится невидимой, а непроверенное рассуждение может накапливаться как факт.
Чтобы избежать этой проблемы, необходимо отделять обоснованность рассуждения от завершённости проверки. То, что вывод логически следует из заданных предпосылок, не означает, что сами эти предпосылки истинны в реальности. Аналогично, соответствие гипотезы нескольким наблюдениям не означает, что конкурирующие гипотезы исключены. Чем лучше ИИ становится в рассуждении, тем важнее это различие. Высокое качество рассуждения не должно становиться причиной отказа от внешней проверки.
Один из способов сохранить предварительный характер — раздельно фиксировать компоненты созданного содержания. Следует различать, что подтверждается внешними источниками или наблюдениями, какие части являются рассуждением ИИ, что остаётся неподтверждённым и какие факты потребовали бы пересмотра или отклонения гипотезы. Благодаря этому даже при последующем чтении только текста можно проследить, на какой стадии находится вывод.
Особенно важны условия опровержения. Если собирать только «доказательства, поддерживающие эту гипотезу», объяснение легко может начать само себя усиливать. Если заранее указать, какое наблюдение сделало бы гипотезу несостоятельной, проверка превращается из работы по защите вывода в работу по его испытанию. Когда ИИ генерирует несколько гипотез, сопоставление условий поддержки и опровержения для каждой из них также помогает избежать выбора исключительно по правдоподобию.
При обращении к внешним источникам необходимо также различать наличие источника и то, действительно ли этот источник поддерживает утверждение. Даже если найден источник, пригодный для цитирования, он может не поддерживать текущее утверждение напрямую, если касается другого объекта, периода или условий. Поэтому поддержка исследований должна проверять не только наличие источника, но и диапазон соответствия между утверждением и доказательством. Связь с основаниями — не украшение, а механизм контроля области применимости утверждения.
Обозначение предварительного характера не сводится к простому добавлению слова «возможно» в предложения. Если сделать всё расплывчатым, становится, наоборот, труднее понять, что подтверждено сильно, а что слабо. Необходимо менять формулировку в соответствии с эпистемическим статусом. Следует различать подтверждённые факты, убедительные, но непроверенные объяснения, исследовательские гипотезы и воздержание от вывода из-за недостатка информации, связывая с каждым состоянием следующую необходимую проверку.
Аудит должен рассматривать не только правильность вывода, но и то, присвоен ли этому выводу правильный статус. Если утверждение обоснованно как гипотеза, но зафиксировано как установленный факт, это является проблемой качества, отдельной от того, окажется ли его содержание в конечном счёте истинным или ложным. И наоборот, чрезмерно слабые формулировки в отношении достаточно проверенных фактов могут задержать необходимые решения. Сохранение предварительного характера рассуждения не означает, что всегда нужно писать неуверенно; оно означает соответствие силы формулировки состоянию доказательств.
Эта система становится ещё важнее, когда созданное ИИ содержание используется как входные данные для последующей обработки ИИ. Если предварительный характер более ранней гипотезы утрачивается до повторного использования, непроверенные предпосылки могут усиливаться с каждым новым уровнем рассуждения. Если эпистемический статус сохраняется при передаче, последующая обработка может определить, какие части требуют повторной проверки. Проверяемость относится не только к объяснениям для людей, но и к управлению предпосылками в многоэтапной обработке ИИ.
В исследовательской поддержке Sai＊aus важно не замыкать понимание в одном завершённом объяснении, а сохранять сведения о том, до какой степени что-либо проверено, где начинается рассуждение и что может привести к его обновлению. Чем больше ИИ совершенствует способность генерировать гипотезы, тем больше ему нужна структура фиксации, которая не позволит этим гипотезам позднее превратиться в факты. Генеративную способность и возможность аудита не следует рассматривать как отдельные функции; они должны быть связаны с момента генерации.
Сохранение рассуждения ИИ в предварительном статусе не предназначено для замедления исследований. Если ясно, какие выводы следует направить на следующую проверку, какие предпосылки нужно перепроверить и какие гипотезы можно отклонить, ресурсы проверки можно распределять надлежащим образом. Важно различать быстрое получение вывода и быстрое окончательное закрепление вывода. Первое может ускорить исследование; второе может закрыть путь к проверке.
Рефлексивная дистанция, необходимая ИИ для поддержки исследований, не означает бесконечно сомневаться в собственном рассуждении и ничего не решать. Она означает сохранять сведения о том, от каких доказательств зависит рассуждение, насколько оно проверено и что привело бы к его пересмотру. Если обоснованность и проверяемость можно разделять, сохраняя при этом их связь, созданное ИИ содержание можно рассматривать не как свершившийся факт, а как проверяемого кандидата на знание. Сохранение такого состояния служит основой для сочетания скорости и надёжности в исследованиях.
Не ответы. Понимание.