Ao ler uma explicação de IA, não é incomum pensar: “Se é tão específica assim, deve estar correta.” Quando o texto não demonstra hesitação, as razões são apresentadas em ordem e até os detalhes são explicados, o conteúdo pode parecer informação confiável. No entanto, a naturalidade de uma explicação não garante que ela tenha sido confirmada por fatos externos. A IA pode expressar no mesmo estilo não apenas informações confiáveis, mas também inferências preenchidas a partir do contexto. A primeira coisa que os seres humanos precisam distinguir é que a qualidade da escrita e a certeza do conteúdo são qualidades diferentes.
Esse problema é difícil porque não basta procurar apenas erros óbvios. Se a maior parte de uma explicação estiver correta e apenas uma parte for inferida, essa inferência pode parecer mais certa por estar cercada de informações corretas. Por exemplo, mesmo que a data e o local de um evento estejam confirmados, a razão pela qual o evento ocorreu pode não estar. Ainda assim, quando são lidos como um único texto, a fronteira entre fato e explicação desaparece facilmente. A plausibilidade pode surgir não do erro em si, mas de colocar no mesmo plano elementos com diferentes graus de certeza.
A compreensão humana tem uma característica semelhante. Inferimos situações a partir de informações fragmentárias, e a vida cotidiana seria impossível sem fazer isso. O problema não é fazer inferências. É esquecer que inferimos algo e tratá-lo com a mesma força de um fato observado. No diálogo com a IA, podem se sobrepor não apenas as partes preenchidas pela IA, mas também os significados acrescentados posteriormente pelo leitor humano. Assim, o reconhecimento equivocado se forma não apenas dentro da IA, mas também entre a geração e a recepção.
O que é necessário não é marcar cada frase com um sinal de suspeita, mas tratar separadamente os papéis de seus conteúdos. Se distinguirmos “o que foi confirmado”, “a interpretação derivada disso” e “a inferência que ainda não foi verificada”, os usuários podem ler o mesmo texto e julgá-lo de maneira diferente. Fatos confirmados podem servir de base para o próximo julgamento, interpretações podem ser comparadas com alternativas e inferências podem ser verificadas com informações adicionais. Quando as diferenças se tornam visíveis, uma explicação de IA deixa de ser um único produto acabado e passa a ser material para o diálogo contendo elementos com diferentes graus de certeza.
Suponha que um pacote comprado online ainda não tenha chegado mesmo depois do horário previsto. Se a IA consultar o histórico de entrega e disser: “O congestionamento do trânsito provavelmente é a causa”, o atraso em si pode estar confirmado, mas saber se o congestionamento o causou é uma questão diferente. Mau tempo, atrasos na triagem, verificação do endereço e outras causas também são possíveis. Se a observação “está atrasado” for separada da inferência “o congestionamento do trânsito causou o atraso”, o usuário poderá verificar as informações da transportadora conforme necessário. Sem essa separação, uma explicação causal plausível se fixa como fato.
O fato de a IA poder manter sua própria interpretação como interpretação tem outro significado: quando chegam novas informações, ela deixa de precisar defender sua explicação anterior. Se uma inferência inicial for tratada como fato, informações contraditórias posteriores podem ser forçadas ao papel de exceção, ou a explicação pode ser mantida de maneira artificial. Se a primeira explicação for tratada desde o início como provisória, atualizá-la à luz de novas informações não é um fracasso. É um processo normal de reduzir a distância em relação à realidade.
Os seres humanos precisam do mesmo espaço. Se a IA indicar que “isto inclui uma inferência”, os usuários poderão apresentar com mais facilidade sua própria experiência ou informações adicionais. Se acrescentarem informações como “não houve problema meteorológico naquele dia” ou “a transportadora enviou um aviso diferente”, o diálogo deixa de ser uma simples aceitação da primeira explicação e passa a uma verificação conjunta da realidade. Não esconder a incerteza da IA não é apenas cautela; também preserva um espaço para que os seres humanos participem da formação da compreensão.
Para Sai＊aus, o que importa não é enfraquecer um texto plausível. É organizar as coisas com clareza, preservando ao mesmo tempo as fronteiras que não devem desaparecer por causa dessa organização. Se fatos e interpretações, observações e inferências, e elementos verificados e não verificados puderem ser distinguidos quando necessário, fluidez e cautela não precisam ser opostas. O objetivo não é aumentar o uso de formulações vagas para evitar afirmações, mas colocar o grau de certeza em uma forma que os seres humanos possam manejar.
A confiança na IA não surge necessariamente de fazê-la parecer sempre correta. Em vez disso, as pessoas podem usar adequadamente suas respostas quando a fronteira entre o que é conhecido e o que é desconhecido permanece estável. Quando ocorre um erro, se for possível ver onde uma inferência entrou e o que deve ser verificado novamente, a correção é possível. Não substituir a verdade pela plausibilidade não é uma regra para desconfiar da IA; é uma regra para definir corretamente o alcance da confiança.
Aprofundar a compreensão entre a IA e os seres humanos não exige que a IA apresente uma única imagem correta do mundo. Exige que seja possível compartilhar a posição de uma explicação gerada em relação à realidade. Fatos confiáveis, interpretações plausíveis e inferências que ainda exigem verificação não devem ser tratados como a mesma coisa. Quando essa distância é mantida, os seres humanos podem verificar, contestar e atualizar junto com a IA, em vez de serem levados por seu texto. A base do diálogo não é eliminar o poder da plausibilidade, mas não perder de vista o momento em que esse poder começa a se passar por verdade.
Não respostas. Compreensão.