Quando consultamos a IA sobre o planejamento de uma viagem, pensamos no destino, no tempo de deslocamento, no orçamento, nos lugares que queremos visitar e em questões semelhantes. Nossa atenção está voltada para a viagem como objeto. A IA também pode organizar as condições dadas, comparar opções e propor um itinerário. No entanto, à medida que o diálogo avança, podemos perceber: “Por que estou tentando incluir o maior número possível de atividades?” ou “A IA está enfatizando a eficiência dos deslocamentos, mas eu realmente quero que essa seja minha prioridade máxima?”. Aqui, ao lado da atividade de pensar sobre a viagem, começou outra atividade: observar como estamos pensando sobre a viagem.
Distinguir essas duas camadas muda a forma como vemos o diálogo com a IA. Na primeira camada, reunimos informações, comparamos essas informações e criamos opções para resolver o problema. Na segunda camada, reconsideramos quais informações tratamos como importantes, o que definimos como objetivo e o que a IA e o ser humano estão decidindo, cada um de sua parte. A segunda camada não é um lugar superior à primeira. É um lugar a partir do qual pressupostos e papéis que se tornaram invisíveis na primeira camada podem ser temporariamente tornados observáveis.
A IA pode ajudar nesse deslocamento. Por exemplo, a respeito da mesma consulta, perguntar “O que o plano atual está priorizando implicitamente?” ou “O que mudaria se outro objetivo fosse priorizado?” pode colocar em palavras a estrutura do diálogo. No entanto, o fato de a IA ter explicado algo não significa que essa explicação determine o verdadeiro objetivo do ser humano. Os próprios seres humanos nem sempre conseguem articular plenamente seus objetivos desde o início. Portanto, a resposta da IA precisa ser tratada não como uma resposta que decide o objetivo, mas como material para reconsiderar o diálogo.
Essa distinção também é importante ao considerar a dependência da IA. Quanto melhores forem as opções produzidas pela IA, mais fácil se torna para as pessoas concentrarem-se apenas em escolher entre essas opções. No entanto, não é possível saber se os critérios usados para criar as opções são, eles próprios, adequados apenas comparando as opções entre si. Mesmo que a comparação “qual é a mais eficiente?” seja precisa, permanece a questão separada “a eficiência deveria ser a prioridade máxima?”. Ao separar os julgamentos sobre o objeto do exame do quadro que tornou esses julgamentos possíveis, podemos usar as capacidades da IA e, ao mesmo tempo, tornar mais fácil evitar delegar à IA até mesmo as premissas do julgamento.
Ao mesmo tempo, nem tudo precisa ser visto de fora do diálogo. Ao verificar quantidades de ingredientes, procurar erros tipográficos em um documento ou converter um horário, não é necessário questionar o quadro do problema todas as vezes. Uma perspectiva de nível meta torna-se necessária quando o objetivo se tornou pouco claro, quando a mesma troca está se repetindo, quando o número de opções aumenta sem produzir convicção ou quando uma proposta da IA parece desalinhada com nossos próprios julgamentos de valor. O que importa não é fazer da reconsideração do diálogo um fim em si mesma, mas poder usá-la quando necessário.
A relação entre seres humanos e IA que Sai＊aus busca também não é uma relação em que a IA analisa constantemente o ser humano a partir de um nível superior. Em vez disso, enquanto o ser humano e a IA pensam sobre o mesmo objeto, eles podem, quando necessário, trazer para o próprio diálogo perguntas como “O que estamos tratando como o problema agora?”, “O que estamos pressupondo?” e “O que estamos deixando para a IA, e pelo que o ser humano está assumindo responsabilidade?”. Depois que esse exame é concluído, eles retornam ao problema concreto. Por meio desse movimento de ida e volta, o diálogo se torna não apenas uma troca de respostas, mas um lugar para ajustar a própria maneira de pensar.
Quando falamos com a IA, não estamos necessariamente fazendo apenas uma coisa. Enquanto pensamos sobre um problema, podemos simultaneamente aprender que forma estamos dando a esse problema. Mesmo que a resposta não mude, o que obtemos do diálogo muda quando os pressupostos por trás da pergunta e a divisão de papéis se tornam visíveis. A chave para aprofundar a colaboração com a IA não é apenas fazer a IA pensar mais, mas ser capaz, no momento necessário, de transformar a maneira como estamos pensando juntos em um objeto compartilhado de observação.
Não respostas. Compreensão.