Uma pesquisa do KAIST, em parceria com a Microsoft Research Asia, chamou minha atenção ao propor uma forma de ajustar o comportamento da inteligência artificial a partir de sinais cerebrais. O sistema, chamado Neural Value Alignment, utiliza eletroencefalografia para identificar divergências entre aquilo que uma pessoa espera e aquilo que a IA faz, distinguindo aspectos relacionados ao objetivo e ao caminho para alcançá-lo. A proposta é facilitar a comunicação da intenção humana, reduzindo a necessidade de correções explícitas.

O estudo envolveu 12 participantes em tarefas de escolha e navegação, com a adaptação dos agentes avaliada em simulações. A possibilidade de usar essas reações como feedback abre uma questão que merece ser investigada: se a IA puder ajustar seu comportamento antes de tomarmos consciência da divergência, que oportunidade teremos de reconsiderar nossa própria expectativa? A partir dessa pergunta, podemos explorar se esse tipo de interação poderia reforçar vieses e reduzir nossa tolerância à dúvida.

A possibilidade de uma tecnologia responder às nossas reações sem que precisemos explicá-las abre uma reflexão sobre a relação que estamos construindo com a IA. Quanto mais eficiente ela se torna em atender nossas expectativas, mais relevante parece perguntar como essas expectativas foram formadas. Afinal, aquilo que esperamos de uma resposta pode ser justamente aquilo que precisamos reconsiderar.

Aquilo que esperamos também precisa ser examinado

Nem sempre conseguimos explicar imediatamente por que uma ideia nos parece adequada ou por que uma alternativa provoca resistência. Às vezes, reconhecemos algo pela experiência; em outras situações, recorremos a hábitos, referências e pressupostos que sequer chegamos a colocar em palavras. Para esta reflexão, interessa considerar que uma reação inicial pode reunir influências diferentes, cuja pertinência só conseguimos avaliar quando temos oportunidade de examiná-las.

Imagine um gestor acostumado a centralizar decisões que recebe da IA uma sugestão de ampliar a autonomia da equipe. Sua primeira reação pode ser de rejeição. Essa resistência poderia expressar um risco concreto, sustentado pelo contexto, mas também poderia refletir uma dificuldade em abrir mão do controle. Uma IA que se ajuste imediatamente à rejeição talvez ofereça uma alternativa mais confortável, deixando pouco espaço para investigar o que aquela resistência significa.

É nesse intervalo que a dúvida pode ganhar valor. A pergunta “por que isso me incomoda?” permite transformar uma reação em objeto de investigação. Se a interação terminar assim que nossa expectativa for atendida, talvez deixemos de descobrir algo relevante sobre os critérios que usamos para julgar. A sensação de que uma resposta finalmente ficou certa pode coexistir com uma oportunidade de reflexão que passou despercebida.

O que pode acontecer quando a correção chega cedo demais?

A primeira hipótese é que, caso a IA consiga ajustar seu comportamento antes que a pessoa tome consciência da própria reação, uma oportunidade de revisão seja reduzida. A divergência desapareceria antes de ser examinada. A pessoa poderia receber uma resposta mais alinhada à sua expectativa inicial sem chegar a considerar a alternativa que provocou o ajuste. Essa possibilidade exige investigar tanto o momento da correção quanto seus efeitos sobre a reflexão.

A segunda hipótese envolve o reforço de vieses. Se uma expectativa estiver apoiada em um condicionamento inadequado, utilizá-la como referência automática poderá favorecer a reprodução desse critério. O risco seria atribuir à reação inicial uma autoridade que ela ainda não teve oportunidade de justificar. Em decisões complexas, precisamos poder investigar se nossa expectativa continua pertinente diante das evidências, das consequências e de outras perspectivas.

A terceira hipótese diz respeito à tolerância à dúvida. Se a IA remover continuamente aquilo que contraria nossas expectativas, poderemos nos acostumar a interações que exigem cada vez menos esforço para permanecer diante de uma questão aberta. O desconforto seria resolvido pelo ajuste do sistema, reduzindo as ocasiões em que precisamos elaborar uma resposta própria. Essa hipótese se refere aos possíveis efeitos da repetição desse tipo de interação, e não a uma consequência já comprovada da tecnologia.

Em que momento nos tornamos autores de uma escolha?

Essas possibilidades nos levam à questão da autoria. Uma escolha pode envolver influências que não reconhecemos imediatamente, mas ainda podemos participar de sua construção quando examinamos razões, confrontamos alternativas e revisamos critérios. A autoria pode ser pensada como essa capacidade de reconhecer o que nos orienta e decidir o que estamos dispostos a sustentar depois de refletir.

Por isso, a confirmação final de uma resposta merece atenção. Clicar em “aprovar”, concordar com uma recomendação ou autorizar uma ação pode representar uma participação efetiva, mas também pode ocorrer quando o processo já conduziu a pessoa a uma alternativa pouco examinada. Para avaliar essa participação, precisamos considerar as oportunidades que ela teve de compreender o problema, questionar pressupostos e perceber as consequências da escolha.

A responsabilidade acrescenta uma exigência a esse processo. Ao assumir uma decisão, precisamos conseguir responder pelas razões que a sustentam e pelos efeitos que ela pode produzir. Quanto mais a tecnologia participa da formação da escolha, mais relevante se torna preservar condições para compreender essa participação. A possibilidade de reconsiderar também faz parte da nossa capacidade de assumir responsabilidade.

A deliberação progressiva como espaço para reconsiderar

É nesse contexto que situo a deliberação progressiva proposta pelo DecisionMind. A intenção é criar uma interação em que o julgamento possa amadurecer à medida que o problema se torna mais claro. A primeira resposta, a primeira preferência e a primeira interpretação oferecem pontos de partida. Ao longo da conversa, precisamos conseguir examinar seus pressupostos e perceber o que ainda falta para sustentar uma decisão.

Esse processo pode envolver esclarecer o objetivo, identificar tensões, confrontar alternativas e explicitar consequências. Uma resistência pode levar à investigação de um risco; uma certeza pode ser confrontada com uma evidência; uma preferência pode ser revista quando surge uma perspectiva antes ausente. A IA participa oferecendo condições para que esses movimentos aconteçam e para que a evolução do julgamento possa ser acompanhada.

A deliberação progressiva permite aprofundar a reflexão conforme a relevância e a complexidade de cada decisão. Ao tornar mais claros os critérios, as alternativas e as consequências, ela ajuda a pessoa a reconhecer o que já compreende e o que ainda precisa investigar para avançar. É essa contribuição que o DecisionMind busca oferecer: ampliar as condições para que cada escolha seja sustentada por um julgamento que a pessoa compreenda, possa revisar e assuma como seu.

Que espaço queremos preservar para pensar?

Interfaces capazes de captar sinais cerebrais podem ampliar formas de comunicação e facilitar a colaboração com sistemas de IA. Reconhecer esse potencial também nos permite investigar quais condições devem acompanhar seu uso. Uma questão é como comunicar uma intenção com menos esforço. Outra é como preservar a oportunidade de revisar essa intenção quando o próprio julgamento está em formação.

Talvez precisemos observar com mais atenção o significado de uma IA “entender o que queremos”. Em algumas situações, sabemos o que buscamos e precisamos de ajuda para executar. Em outras, estamos descobrindo o que faz sentido querer, quais critérios importam e quais consequências aceitamos. Nesses casos, a interação pode contribuir para transformar nossa compreensão do problema e, com ela, nossa preferência inicial.

É essa possibilidade que me parece essencial preservar. Quando uma IA atende rapidamente à nossa expectativa, ainda temos espaço para descobrir que poderíamos pensar diferente? A qualidade de uma escolha também depende da oportunidade que tivemos de questionar aquilo que inicialmente nos pareceu certo. E talvez uma das contribuições mais relevantes da inteligência artificial seja nos ajudar a participar com mais consciência desse processo.