Чтобы ИИ мог работать с большим числом конкретных примеров, недостаточно обрабатывать каждый вход как полностью независимый случай. Если признаки и отношения, общие для разных входов, можно извлекать и использовать как представления более высокого уровня, существующие структуры можно переносить даже на ситуации, которые ранее не встречались. В этом смысле абстракция — не просто сокращение информации; это важная функция, обеспечивающая рассуждение и обобщение. Но когда объектом становится человеческий опыт, возникает другая проблема. Даже если опыт можно адекватно обобщить посредством одного понятия более высокого уровня, это не означает, что оно является единственной абстракцией, применимой к этому опыту.
Например, высказывание «Я хочу уйти с нынешней работы, но боюсь разочаровать окружающих» допускает несколько абстракций. Его можно представить как отношение между самоопределением и ответственностью, как отношение между признанием со стороны других и самооценкой или как влияние норм группы на выбор отдельного человека. Его также можно понимать как избегание неопределённости относительно будущего. Поскольку все эти абстракции выводятся из одного и того же высказывания, они могут казаться избыточными, но они не являются синонимами. Каждая выводит на передний план разные отношения, считает важными разные условия и по-разному влияет на последующие вопросы и суждения.
Тогда возникает вопрос: следует ли просто выбрать одну абстракцию с наибольшей объяснительной силой. Интеграция в одно представление упрощает обработку и облегчает сопоставление с похожими случаями. Но если всё интегрировать под понятием «признание», экономическая неопределённость или изменения в принадлежности могут отойти на задний план в последующем рассуждении. И наоборот, если поставить в центр «неопределённость», отношение, посредством которого человек интернализировал ожидания других, может выглядеть менее значимым. Эффективность, достигаемую посредством абстракции, необходимо оценивать не только по тому, что было сохранено, но и по тому, что было исключено из пространства исследования.
Следовательно, при рассмотрении внутреннего эффективного представления человеческого опыта направления «сжать множество конкретных примеров до небольшого числа понятий» недостаточно. Когда для одного и того же опыта применимы несколько неэквивалентных представлений более высокого уровня, их необходимо сохранять во взаимосвязи, не интегрируя преждевременно в единое вышестоящее понятие. Координаты свободы, признания и норм не обязаны взаимно исключать друг друга. В то же время их объединение в чрезмерно широкое понятие вроде «проблемы человеческих отношений» стёрло бы структуры, которые различало каждое представление. Эффективность не является синонимом интеграции, устраняющей различия.
Чтобы осмыслить эту структуру, необходимо различать «создание нескольких ответов» и «сохранение нескольких внутренних представлений». Из одной внутренней классификации можно сгенерировать множество внешне различных предложений. В таком случае результаты разнообразны, но способ представления проблемы остаётся единственным. Сохранение нескольких представлений более высокого уровня, напротив, означает сохранение состояний, различающихся тем, какие условия они считают важными, что помещают в причинный или реляционный центр и какая дополнительная информация могла бы обновить текущую интерпретацию. Важно не число представлений, а их неэквивалентные роли в рассуждении.
Философские понятия дают содержательный материал для рассмотрения этой неэквивалентности. На протяжении истории философии такие предметы, как свобода, желание, время, другие, нормы и конечность, не сводились к единым определениям; исходя из разных предпосылок предлагались различные структуры отношений. Эти разногласия необязательно рассматривать как неупорядоченное знание или противоречия, которые следует устранить. Если использовать их как ресурс, показывающий, что один и тот же человеческий опыт может иметь разные структуры в нескольких пространствах смысла, философия не добавляет ИИ правильных ответов; она предоставляет сопоставимые координаты для исследования преждевременной конвергенции к единственному представлению.
Однако само использование выражения «философские координаты» не доказывает существования соответствующих концептуальных структур внутри ИИ. Способность модели уместно генерировать такие слова, как «свобода», «признание» и «нормы», — это отдельный вопрос от того, играют ли эти представления разные причинные роли в последующем рассуждении. Чтобы утверждать, что они являются внутренними представлениями, необходимы проверки: какие представления стабильно воспроизводятся при изменении входных условий, можно ли различать близкие представления и изменяет ли вмешательство в конкретное представление тенденции суждения или генерации. Присвоение имени понятию может стать началом анализа, но не доказывает существования внутреннего механизма.
Сохранение нескольких представлений более высокого уровня также имеет свою стоимость. Если число кандидатов продолжает расти, пространство поиска расширяется, а рассуждение становится менее эффективным. Поэтому задача проектирования состоит не в том, чтобы сохранять неограниченное число возможных интерпретаций, а в том, чтобы определить, при каких условиях следует сохранять неэквивалентные представления, способные повлиять на текущее суждение, и при каких условиях они могут отойти на задний план. Даже если представление отодвинуто на задний план, его не нужно удалять, если оно может быть вновь использовано при поступлении новой информации. Здесь возможность повторного развёртывания и обновляемость становятся частью эффективности наряду со степенью сжатия.
При таком определении цель внутреннего эффективного представления меняется: вместо «охватить максимальное число случаев минимальным представлением» важнее ограничивать сложность, ненужную для текущего рассуждения, не теряя различий в смысле, которые способны изменить будущее суждение. Если общие части можно разделять, сохраняя в качестве ветвей только неэквивалентные отношения, нет необходимости хранить каждый случай независимо. В то же время нет необходимости необратимо интегрировать всё в одно абстрактное понятие. Эффективность можно также оценивать по тому, насколько мала нагрузка, необходимая для поддержания структуры, позволяющей возвращаться к необходимым различиям.
В применении к дизайну Sai＊aus цель сохранения нескольких философских координат состоит не в том, чтобы генерировать столько ответов, сколько существует философов. Она состоит в том, чтобы различать, как меняется постановка проблемы в зависимости от того, какое отношение выводится на передний план для одного и того же входа, и связывать эти различия с формой, в которой люди могут их оценивать. Если в одной координате центрально самоопределение, а в другой — социальные нормы, ИИ не должен определять ни одно из них как «истинную проблему» человека, а должен учитывать, какие условия каждое из них объясняет, а какие — нет. Множественные внутренние представления используются не для того, чтобы показывать людям больше информации, а для предотвращения преждевременной фиксации смысла.
Этот дизайн также необходимо осторожно позиционировать в сравнении с ИИ общего назначения. Крупномасштабные системы ИИ способны генерировать несколько точек зрения и представлять разные объяснения в зависимости от контекста. Поэтому различие нельзя просто сформулировать как «другой ИИ даёт только один ответ». Проектный фокус Sai＊aus может заключаться не в самой способности генерировать несколько взглядов, а в том, чтобы рассматривать их как неэквивалентные представления проблемы и явно проектировать, какие различия сохранять, при каких условиях выводить их на передний план и где возвращать человеку суждение о смысле. Сравнивать следует не число перспектив, а то, как различия между ними связаны с обновлением понимания.
Методы оценки также должны измениться в соответствии с этим дизайном. Возможные показатели включают то, действительно ли применение разных координат к одному и тому же входу меняет выбор важных условий, можно ли обновлять веса подходящих координат при поступлении дополнительной информации, можно ли при необходимости вновь развернуть представление, ранее отодвинутое на задний план, и позволяет ли предъявление нескольких представлений пользователям точнее различать основные точки принятия решений. Это не единая универсальная шкала, но такие показатели могут связать проектный принцип «множественных представлений» с наблюдаемым поведением. Важно сохранять измеримую дистанцию между принципом и эффектом.
Единичная абстракция часто бывает мощной. Без выявления общей структуры перенос знаний и эффективное рассуждение становятся затруднительными. Однако в человеческом опыте сам успех абстракции может стереть другой смысл. Поэтому требуется не отказ от сжатия и не сохранение сложности без изменений, а работа с тем, до какой степени элементы могут быть общими и где они должны разветвляться в неэквивалентные представления. Несколько философских координат предлагают один способ осмыслить эту границу.
Для ИИ, стремящегося понимать людей, эффективность — это не только достижение одного объяснения по кратчайшему пути. Она также включает выведение на передний план структуры, необходимой для текущего суждения, без утраты возможности будущего обновления через другую перспективу. Вместо единственного минимального представления следует сохранять представления, которые при необходимости могут вновь разворачиваться в разные пространства смысла. Тогда внутреннее эффективное представление превращается из сжатия, устраняющего сложность, в дизайн, сохраняющий важные различия внутри сложности в форме, пригодной для повторного использования. А то, какой смысл в конечном итоге принимается человеком как его собственная проблема, не фиксируется внутри ИИ, а возвращается человеческому суждению.
Не ответы. Понимание.