Usamos previsões em muitas áreas da vida cotidiana. Se é provável que chova, levamos um guarda-chuva; se é provável que haja congestionamento, mudamos o horário de saída. Como a IA pode processar grandes quantidades de informações, às vezes ela pode fazer esse tipo de previsão com mais detalhes. Mas uma alta probabilidade de que um resultado ocorra é diferente de dizer que esse resultado deveria ser escolhido. “Provavelmente acontecerá” é uma descrição do futuro, enquanto “deveria ser feito” inclui propósitos e valores. Se essas duas coisas forem tratadas como iguais, a previsão silenciosamente se transforma em uma ordem.
Suponha que uma IA preveja, com base em suas escolhas passadas, que “você provavelmente escolherá este produto”. Quanto mais precisa for a previsão, mais conveniente se torna a sugestão. Mas os seres humanos não são seres que apenas repetem escolhas passadas. Novos propósitos podem surgir: querer economizar dinheiro, experimentar algo diferente ou considerar o impacto ambiental. Uma probabilidade calculada a partir do passado pode descrever muito bem as tendências anteriores a essa mudança, mas não determina a intenção presente.
Uma razão pela qual previsões mais fortes podem fechar o pensamento é que os números parecem objetivos. Quando é apresentada “uma chance de 80 por cento”, os 20 por cento restantes podem parecer sem importância. Mas o significado de uma probabilidade muda dependendo do que foi observado e de qual população ou período foi usado como base. No julgamento individual, uma possibilidade de baixa probabilidade também pode ter grande valor. Saber o que é provável é útil, mas isso, por si só, não determina o que queremos.
O que o pensamento precisa aqui não é rejeitar a previsão, mas limitar seu papel. A previsão fornece material para considerar “o que é provável nestas condições”. Em contraste, “qual resultado devemos buscar”, “quais riscos devemos aceitar” e “o que valorizamos” são perguntas diferentes. Ao separar previsão e vontade, os seres humanos podem usar a análise da IA enquanto verificam seus próprios propósitos. Seguir ou não uma previsão é, por si só, um julgamento fora da previsão.
Por exemplo, em um plano de estudos, suponha que uma IA preveja, com base em notas anteriores, que “é improvável que sua pontuação melhore nesta área”. Se o único objetivo for aumentar as notas de uma prova no curto prazo, pode ser racional dedicar tempo a outras áreas. Mas, para alguém que deseja estudar profundamente essa área no futuro, a própria dificuldade de melhorar pode ser uma razão para trabalhar nela. A mesma previsão leva a ações diferentes quando o propósito muda. A previsão pode ser usada não como uma resposta que restringe a escolha, mas como informação que torna visíveis as condições da escolha.
Para que a IA respeite a vontade humana, é importante não determinar automaticamente os desejos presentes a partir de tendências passadas. Há um salto não verificado entre “tem sido assim até agora” e “deve ser assim que você quer que seja daqui em diante”. Os seres humanos aprendem com a experiência, mudam seus valores e fazem escolhas diferentes das anteriores. Preservar a possibilidade dessa mudança não significa negar a precisão preditiva. Significa não confundir o âmbito tratado pela previsão com o âmbito decidido pelos seres humanos.
Os seres humanos também precisam evitar confiar demais seu julgamento à previsão. Quando a IA mostra uma alta probabilidade, em vez de terminar com “então essa deve ser a resposta certa”, podemos perguntar novamente: “Que pressupostos esta previsão faz?” e “Tenho o mesmo propósito pressuposto por essas suposições?”. Com essa pequena distância, os números se tornam material para pensar, em vez de uma autoridade que interrompe o pensamento. Quanto mais precisa a previsão se torna, mais importante é essa distância.
Quando Sai＊aus lida com previsões, o que importa não é apenas acertar o futuro. É distinguir em que condições uma previsão se baseia, até onde ela pode ser utilizada e onde começa a escolha humana. Se a IA puder mostrar “o que provavelmente acontecerá” enquanto os seres humanos puderem considerar “o que escolher mesmo assim”, previsão e vontade não competem. A capacidade da IA pode ser usada não para substituir as decisões humanas, mas para tornar mais claras as condições dessas decisões.
“Provavelmente correto” é uma informação importante. Mas não é a mesma frase que “isto é o que deveria ser feito”. A probabilidade oferece uma visão do mundo à frente, enquanto a vontade escolhe para onde ir dentro desse mundo. Ao manter a distância entre as duas, os seres humanos não precisam se opor às previsões da IA; podem compreendê-las e ainda manter seu próprio julgamento. Pensar não é apenas aceitar o futuro mais provável, mas continuar perguntando qual futuro queremos escolher.
Não respostas. Compreensão.