Quando fazemos uma pergunta à IA, ela pode apresentar uma resposta sem hesitação aparente. Se as razões e os exemplos estiverem bem organizados e o encadeamento for natural, a explicação pode parecer estar relatando algo correto. Mas uma linguagem natural e um conteúdo que foi verificado na realidade não são a mesma coisa. A IA não necessariamente observa diretamente o mundo diante dela e o transcreve em palavras; ela constrói uma explicação adequada à pergunta a partir das informações que lhe foram fornecidas e do conhecimento disponível. Desde o início, existe uma distância entre o que a IA gera e o que realmente está acontecendo.
Essa distância não é um problema exclusivo da IA. Os seres humanos também atribuem significado aos acontecimentos que veem e ouvem e, às vezes, confundem esse significado com os próprios acontecimentos. Por exemplo, a partir do fato de alguém responder mais tarde do que o habitual, podemos pensar: «Essa pessoa está com raiva». O atraso da resposta pode ser observado, mas não é possível estabelecer que a pessoa esteja com raiva sem outras informações. Ainda assim, quanto mais natural uma interpretação nos parece, mais facilmente esquecemos a inferência que nós mesmos acrescentamos no meio. O problema não é interpretar, mas elevar uma interpretação à condição de própria realidade.
No diálogo com a IA, essa confusão pode ocorrer com ainda mais facilidade. A IA pode expressar fatos observados, conhecimento geral e inferências extraídas do contexto em um único texto fluido. Como resultado, pode se tornar difícil perceber onde terminam as informações verificadas e onde começa a interpretação. A fluidez ajuda a compreensão, mas também pode ocultar as fronteiras entre diferentes tipos de informação. Portanto, o importante não é desconfiar do texto da IA e não acreditar em nada. É lembrar que elementos com diferentes graus de certeza podem coexistir no mesmo texto.
O que é necessário aqui é uma maneira de separar a «impressão» que surge em nós do «julgamento» que fazemos sobre essa impressão. Mesmo que algo pareça ser de determinada maneira, não precisamos decidir que, por isso, realmente seja assim. Ao criar alguma distância, podemos organizar a situação da seguinte forma: «até aqui é possível confirmar», «daqui em diante é interpretação» e «esta parte ainda é desconhecida». Aplicada à nossa relação com a IA, essa atitude sugere uma nova forma de lidar com o conteúdo gerado pela IA: não rejeitá-lo, mas utilizá-lo observando em que estágio do conhecimento ele se encontra.
Suponha que a IA diga sobre um plano de viagem: «Esta rota é a mais adequada». Mesmo que o tempo de viagem e a distância tenham sido verificados, a conclusão «mais adequada» inclui julgamentos sobre o que importa, como custo, congestionamento, facilidade para caminhar e o ônus das baldeações. Seu significado também muda dependendo de o usuário estar viajando com uma criança pequena ou carregando bagagem volumosa. Mesmo quando as informações calculáveis estão corretas, a avaliação delas derivada não se torna automaticamente realidade. Distinguir essa diferença é uma maneira concreta de manter distância do conteúdo gerado.
Manter distância não diminui o valor da IA. Pelo contrário, é uma condição para utilizar com maior precisão aquilo que a IA faz bem. A IA pode organizar grandes quantidades de informação, comparar explicações possíveis e revelar relações que os seres humanos talvez tenham deixado passar. No entanto, quanto maior essa capacidade se torna, mais persuasivas podem ser as explicações geradas. Quando a capacidade de persuasão aumenta, o que se necessita não é uma escolha binária entre confiança incondicional e desconfiança total, mas distância suficiente para perguntar: «Em que esta explicação se baseia, quão certa ela é e o que ainda é interpretação?».
Dessa perspectiva, não é necessário pensar na «autorreflexão» da IA como se ela olhasse para a própria mente no sentido humano. Mais importante é uma disciplina que impeça a IA de tratar imediatamente seus próprios raciocínios e interpretações gerados como realidade estabelecida. Ela deve preservar a distinção entre ser capaz de gerar uma explicação e essa explicação realmente se sustentar na realidade. Com essa distinção, a IA pode verificar onde a verificação é necessária, indicar informações ausentes onde elas são insuficientes e evitar fixar uma única interpretação onde várias são possíveis.
A mesma mudança ocorre do lado humano. Quando recebemos da IA apenas uma resposta pronta, tendemos a avaliar somente o conteúdo dessa resposta. Mas, quando a distância entre o conteúdo gerado e a realidade se torna visível, surgem perguntas: «O que eu realmente sei como fato?», «O que a IA está completando?», «Que pressupostos sustentam esta conclusão?». A saída da IA deixa de ser o ponto final do pensamento e passa a ser uma entrada para verificar novamente a realidade. Aqui, o papel da IA também muda: de uma entidade que decide a resposta correta em nosso lugar para uma que torna visível a estrutura do julgamento.
Essa distância não é necessária apenas para evitar erros. Ela também é necessária para que os seres humanos preservem seu próprio julgamento. Se uma explicação da IA for tratada como a própria realidade, as pessoas terão menos espaço para trazer experiências e valores que estão fora dessa explicação. Se, em vez disso, o conteúdo gerado for colocado como uma interpretação, uma pessoa poderá responder: «No meu caso, as condições são diferentes», «Quero priorizar este valor» ou «Esse pressuposto não se aplica». Precisamente porque a distância permanece, o conhecimento da IA e a experiência humana não precisam ser tratados como a mesma coisa, deixando espaço para o diálogo entre ambos.
Para Sai＊aus, essa maneira de pensar não significa simplesmente acrescentar formulações mais cautelosas. O importante é não fechar depressa demais em uma única resposta as informações que a IA possui, as interpretações que constrói a partir dessas informações, as partes que permanecem indefinidas e os julgamentos deixados aos seres humanos. Compreender não significa tornar tudo definitivo. Significa também ser capaz de lidar com as fronteiras entre o que é conhecido, o que ainda é desconhecido e onde os julgamentos de valor humanos se tornam necessários. Quanto mais visíveis forem essas fronteiras, mais os seres humanos poderão dialogar preservando seu próprio julgamento, em vez de simplesmente seguir a saída da IA.
Quanto mais avançada a IA se torna, mais importante se torna esse princípio. Com uma IA de baixa precisão, as pessoas podem duvidar dela facilmente. Mas, com uma IA muito natural e útil em muitos casos, uma única certeza equivocada pode passar despercebida com maior facilidade. Melhorar a capacidade, por si só, não resolve esse problema. O que se necessita é alta capacidade juntamente com a recusa de identificar aquilo que essa capacidade gera com o próprio mundo. A força da inteligência e a disciplina de manter distância da própria produção gerada não são opostas; precisam ser projetadas em conjunto.
O que a IA pensa não é a própria realidade. Mas isso não significa que o conteúdo gerado pela IA não tenha valor. Precisamente porque entendemos que existe uma distância entre o conteúdo gerado e a realidade, podemos usar o raciocínio da IA como hipótese, verificar o que precisa ser conferido e compará-lo com nossas próprias experiências e valores. A compreensão que Sai＊aus busca também não consiste em impor respostas à realidade, mas em permitir que seres humanos e IA se aproximem da realidade sem perder essa distância. Não se apressar em transformar aquilo que foi gerado em um mundo já estabelecido: essa moderação deixa espaço tanto para a IA quanto para os seres humanos julgarem.
Não respostas. Compreensão.