Организационные базы знаний создаются для повторного использования прошлых суждений, процедур, успешных и неудачных примеров. По мере накопления знаний организациям уже не нужно каждый раз заново рассматривать одну и ту же проблему, что повышает скорость и последовательность принятия решений. Однако чем чаще знание используется повторно, тем больше оно может смещаться от записи о том, что «в прошлом это было оценено таким образом», к норме, согласно которой «и сейчас это следует оценивать таким образом». Здесь возникает парадокс: чем ценнее становится знание, тем слабее мотивация заново исследовать условия, при которых оно было установлено.
Когда ИИ использует базу знаний, такая фиксация может стать еще сильнее. Если прошлые документы и истории решений извлекаются и многократно предъявляются как основания для ответов, эта информация может фактически приобретать авторитет благодаря частоте использования. Даже если позднее появляются иные случаи, база знаний будет воспроизводить только уже известный ей мир, если эти случаи оттесняются на периферию из-за слабого соответствия существующим знаниям. Это не недостаток информации, а самоизоляция, вызванная отсутствием путей обновления.
Чтобы избежать этой проблемы, знание должно сохранять не только содержание, но и условия, при которых оно было справедливо. В какой период, для какого объекта, с какой целью и при каких ограничениях оно было применимо? Какие доказательства его поддерживали и какие исключения известны? Если такие условия сохраняются, их можно сопоставить с текущей ситуацией. Когда условия утрачиваются и сохраняются только выводы, локальные суждения прошлого легко начинают повторно использоваться как универсальные правила.
Также важно не помещать возражения за пределы знания. Когда появляется случай, не соответствующий существующему правилу, вместо того чтобы отбрасывать его как простое исключение, следует зафиксировать, «какое условие изменилось так, что существующее знание больше не применимо». Возражение — это не информация, разрушающая знание; это информация, делающая область его применения более точной. Зрелая база знаний — не та, в которой меньше противоречащей информации, а та, которая способна обновлять собственные границы с помощью противоречащей информации.
В такой структуре сама история обновлений становится важным знанием. Если сохранять только текущий вывод, невозможно понять, почему прежнее суждение изменилось. Если связать прежние суждения, новые доказательства, причины изменений и текущие условия применения, то при возникновении другой ситуации в будущем можно будет повторно использовать не только самую свежую информацию, но и логику изменения. Знание расширяется от совокупности ответов до истории, включающей то, как ответы менялись.
Собственные результаты ИИ также необходимо рассматривать по тому же принципу. Если резюме и суждения, созданные ИИ в прошлом, безусловно считаются надежными при последующей обработке, с течением времени сгенерированное содержание может приобрести статус первичной информации. Поэтому знания, происходящие от ИИ, должны оставаться связанными со своими основаниями, временем создания, непроверенными частями и последующими исправлениями. Не повышать авторитет содержания лишь потому, что ранее его создал сам ИИ, — это вариант рефлексивной дистанции применительно к базе знаний.
В организациях фиксация знания связана и со структурами ответственности. Обоснование «такова процедура с давних пор» снижает бремя объяснения текущих суждений. Но если среда изменилась, такая стабильность может задержать обнаружение проблем. Если база знаний спроектирована так, чтобы принимать текущие исключения и возражения, она может отдавать приоритет соответствию нынешней реальности, а не сохранению согласованности с прошлым.
С технической точки зрения управление элементами знания как изолированными предложениями хуже подходит для самокоррекции, чем связывание оснований, условий применения, связанных возражений, истории обновлений и текущего состояния. Важно не увеличивать объем информации, а иметь возможность проследить, какая информация поддерживает какое утверждение и при каких условиях это утверждение становится слабее. Когда отношения между элементами знания видимы, легче определить область, на которую влияет новое доказательство.
Необходимо изменить и показатели оценки. Одних точности поиска и скорости ответа недостаточно, чтобы измерить, является ли база знаний негибкой. Нужно проверять, были ли связанные знания обновлены при появлении новых опровергающих доказательств, были ли прежние выводы надлежащим образом понижены в статусе, были ли исключения отражены в условиях применения и можно ли проследить причины изменений. Качество знания заключается не только в обладании правильной информацией, но и в способности к исправлению в ответ на ошибки и изменение условий.
Для Sai＊aus накопление знаний не предназначено для понимания людей как неизменных сущностей. Важно иметь возможность использовать прошлые диалоги и понимание, одновременно позволяя нынешним высказываниям ставить прежнее понимание под вопрос. Тот же принцип применим к организационным знаниям. По мере роста накоплений должна не просто усиливаться уверенность; система должна становиться точнее в отношении того, что изменилось и при каких условиях. Это архитектура, сочетающая объем знаний с эпистемической сдержанностью.
То, что база знаний продолжает подвергать сомнению саму себя, не означает, что все знания должны стать нестабильными. Это означает стабильное использование хорошо установленных знаний без утраты условий их применения и путей обновления. Когда новая реальность вступает в конфликт с существующим знанием, система должна быть способна проверить, какая сторона требует пересмотра, вместо того чтобы исключать реальность как исключение. Обладая такой способностью, база знаний превращается из хранилища, защищающего правильные ответы прошлого, в механизм, который непрерывно обновляет свои отношения с реальностью.
Чем больше становится знаний, тем необходимее способность дистанцироваться от этих знаний. Система не должна наделять собственные накопления безусловным авторитетом, а должна сохранять условия применимости, возражения, исправления и изменения в рамках одной и той же структуры знаний. Тогда самокоррекция становится не обработкой исключений, а нормальной функцией, необходимой для того, чтобы знание оставалось знанием. Понимание, к которому стремится Sai＊aus, — это не забвение прошлого и не подчинение ему. Это поддержание отношений, в которых прошлое можно использовать, одновременно вновь и вновь подвергая его сомнению со стороны нынешней реальности.
Не ответы. Понимание.