Para que a IA lide com grandes quantidades de exemplos concretos, não basta processar cada entrada como um caso completamente independente. Se características e relações compartilhadas entre diferentes entradas puderem ser extraídas e utilizadas como representações de nível superior, estruturas existentes poderão ser transferidas até mesmo para situações nunca encontradas antes. Nesse sentido, a abstração não é mera redução de informação; é uma função importante que possibilita o raciocínio e a generalização. Mas, quando a experiência humana é o objeto, surge outro problema. Mesmo que uma experiência possa ser adequadamente resumida sob um conceito de nível superior, isso não significa que essa seja a única abstração válida para essa experiência.
Por exemplo, a afirmação “Quero deixar meu emprego atual, mas tenho medo de decepcionar as pessoas ao meu redor” admite múltiplas abstrações. Ela pode ser representada como uma relação entre autodeterminação e responsabilidade, como uma relação entre o reconhecimento pelos outros e a autoavaliação, ou como o efeito das normas de um grupo sobre a escolha de um indivíduo. Também pode ser entendida como evitação da incerteza em relação ao futuro. Como todas essas abstrações derivam da mesma afirmação, elas podem parecer redundantes, mas não são sinônimas. Cada uma traz relações diferentes para o primeiro plano, considera importantes condições diferentes e afeta de maneira distinta as perguntas e os julgamentos subsequentes.
A questão, então, é se deveríamos simplesmente selecionar a única abstração com maior poder explicativo. A integração em uma única representação simplifica o processamento e facilita o mapeamento para casos semelhantes. Mas, se tudo for integrado sob “reconhecimento”, a incerteza econômica ou as mudanças no pertencimento podem recuar no raciocínio subsequente. Por outro lado, se a “incerteza” for colocada no centro, a relação pela qual a pessoa internalizou as expectativas dos outros pode parecer mais fraca. A eficiência por meio da abstração deve ser avaliada não apenas pelo que foi preservado, mas também pelo que foi removido do espaço de exploração.
Assim, ao considerar a representação interna eficiente da experiência humana, a direção de “comprimir muitos exemplos concretos em um pequeno número de conceitos” não é suficiente. Quando múltiplas representações de nível superior não equivalentes são válidas para a mesma experiência, elas precisam ser mantidas em relação umas com as outras sem serem prematuramente integradas em um único conceito supraordenado. As coordenadas de liberdade, reconhecimento e normas não precisam ser mutuamente exclusivas. Ao mesmo tempo, reuni-las em um conceito excessivamente amplo, como “um problema de relações humanas”, apagaria as estruturas que cada representação distinguia. Eficiência não é sinônimo de uma integração que elimina diferenças.
Para pensar sobre essa estrutura, precisamos distinguir “produzir múltiplas respostas” de “manter múltiplas representações internas”. É possível gerar muitas frases superficialmente diferentes a partir de uma única classificação interna. Nesse caso, as saídas são diversas, enquanto a forma como o problema é representado permanece singular. Manter múltiplas representações de nível superior, por outro lado, significa manter estados que diferem quanto às condições que consideram importantes, ao que colocam no centro causal ou relacional e às informações adicionais que atualizariam a interpretação atual. O que importa não é o número de representações, mas seus papéis não equivalentes no raciocínio.
Conceitos filosóficos fornecem material sólido para considerar essa não equivalência. Ao longo da história da filosofia, objetos como liberdade, desejo, tempo, outros, normas e finitude não convergiram para definições únicas; diferentes estruturas relacionais foram propostas a partir de diferentes premissas. Esses desacordos não precisam ser tratados como conhecimento desorganizado ou contradições a serem eliminadas. Se forem utilizados como recursos que mostram que a mesma experiência humana pode assumir estruturas diferentes em múltiplos espaços de significado, a filosofia não acrescenta respostas corretas à IA; ela fornece coordenadas comparáveis para examinar a convergência prematura em uma única representação.
No entanto, o simples uso da expressão “coordenadas filosóficas” não estabelece que estruturas conceituais correspondentes existam dentro da IA. A capacidade de um modelo de gerar adequadamente palavras como “liberdade”, “reconhecimento” e “normas” é distinta da questão de essas representações desempenharem papéis causais diferentes no raciocínio subsequente. Para afirmá-las como representações internas, são necessários testes: quais representações reaparecem de forma estável quando as condições de entrada mudam, se representações próximas podem ser distinguidas e se uma intervenção em uma representação específica altera tendências no julgamento ou na geração. Nomear um conceito pode iniciar uma análise, mas não prova um mecanismo interno.
Manter múltiplas representações de nível superior também tem um custo. Se os candidatos continuarem a se multiplicar, o espaço de busca se expande e o raciocínio se torna menos eficiente. O problema de design, portanto, não é preservar interpretações possíveis ilimitadas, mas determinar sob quais condições representações não equivalentes que poderiam afetar o julgamento atual devem ser mantidas e sob quais condições podem recuar para o segundo plano. Mesmo quando uma representação é colocada em segundo plano, ela não precisa ser eliminada se puder ser usada novamente quando novas informações chegarem. Aqui, a capacidade de reexpansão e a capacidade de atualização passam a fazer parte da eficiência juntamente com a taxa de compressão.
Definido a partir dessa perspectiva, o objetivo da representação interna eficiente deixa de ser “cobrir o número máximo de casos com a representação mínima”. Mais importante é limitar a complexidade desnecessária ao raciocínio atual sem perder diferenças de significado que poderiam alterar um julgamento futuro. Se as partes comuns puderem ser compartilhadas enquanto apenas relações não equivalentes forem mantidas como ramificações, não será necessário armazenar cada caso de forma independente. Ao mesmo tempo, também não há necessidade de integrar irreversivelmente tudo em um único conceito abstrato. A eficiência também pode ser avaliada por quão pequeno é o ônus necessário para manter uma estrutura capaz de retornar às diferenças necessárias.
Aplicado ao design do Sai＊aus, o objetivo de manter múltiplas coordenadas filosóficas não é gerar tantas respostas quantos forem os filósofos. É distinguir como a formulação do problema muda dependendo de qual relação é colocada em primeiro plano para a mesma entrada e conectar essas diferenças a uma forma em que os humanos possam julgá-las. Se a autodeterminação é central sob uma coordenada e as normas sociais sob outra, a IA não deve determinar nenhuma delas como o “verdadeiro problema” da pessoa, mas tratar quais condições cada uma explica e quais não explica. Múltiplas representações internas são usadas não para mostrar mais informações aos humanos, mas para impedir a fixação prematura do significado.
Esse design também deve ser posicionado com cuidado em comparação com a IA de uso geral. IAs de grande escala podem gerar múltiplas perspectivas e apresentar diferentes explicações de acordo com o contexto. Portanto, a diferença não pode ser expressa simplesmente como “outras IAs dão apenas uma resposta”. O foco de design que o Sai＊aus pode adotar não é a mera capacidade de gerar múltiplos pontos de vista, mas tratá-los como representações de problema não equivalentes e projetar explicitamente quais diferenças manter, sob quais condições colocá-las em primeiro plano e onde devolver ao humano o julgamento de significado. O que deve ser comparado não é o número de perspectivas, mas como as diferenças entre perspectivas se conectam a atualizações na compreensão.
Os métodos de avaliação também precisam mudar para corresponder a esse design. Entre as possíveis medidas estão verificar se a aplicação de diferentes coordenadas à mesma entrada realmente altera a seleção de condições importantes, se a ponderação das coordenadas apropriadas pode ser atualizada com informações adicionais, se uma representação colocada em segundo plano pode ser reexpandida quando necessário e se a apresentação de múltiplas representações permite que os usuários distingam com maior precisão os principais pontos de decisão. Essas medidas não constituem uma única escala universal, mas podem conectar o princípio de design de “múltiplas representações” a um comportamento observável. É importante estabelecer uma distância mensurável entre princípio e efeito.
Uma única abstração costuma ser poderosa. Sem encontrar uma estrutura comum, a transferência de conhecimento e o raciocínio eficiente tornam-se difíceis. No entanto, na experiência humana, o próprio sucesso de uma abstração pode apagar outro significado. Portanto, o necessário não é rejeitar a compressão nem preservar a complexidade inalterada. Trata-se de lidar com até que ponto os elementos podem ser compartilhados e onde devem se ramificar em representações não equivalentes. Múltiplas coordenadas filosóficas oferecem uma maneira de pensar sobre esse limite.
Para uma IA que busca compreender os seres humanos, eficiência não é apenas chegar a uma explicação pelo caminho mais curto. Ela também inclui colocar em primeiro plano a estrutura necessária para o julgamento atual sem perder a possibilidade de atualização futura por meio de outra perspectiva. Em vez de uma única representação mínima, mantêm-se representações que podem ser reexpandidas em diferentes espaços de significado quando necessário. A representação interna eficiente então muda de uma compressão que elimina a complexidade para um design que preserva diferenças importantes dentro da complexidade de forma reutilizável. E qual significado é finalmente assumido como o próprio problema não é fixado dentro da IA, mas devolvido ao julgamento humano.
Não respostas. Compreensão.