Como transformar incertezas em decisões mais fundamentadas
Renovar um contrato, conceder um desconto ou aprovar um investimento exige interpretar uma realidade que raramente está completa. Há informações disponíveis, expectativas sobre o futuro e premissas que nem sempre foram verificadas. Uma decisão pode parecer bem fundamentada e ainda depender de algo que ninguém tornou explícito: a capacidade de executar, a validade de uma […]
O que torna uma IA capaz de apoiar decisões coerentes?
Nas empresas, decisões importantes envolvem objetivos que nem sempre caminham juntos. Preservar um cliente pode exigir concessões. Crescer pode aumentar a exposição ao risco. Ganhar velocidade pode reduzir o tempo disponível para verificar informações. A inteligência artificial pode ajudar a explorar essas questões, desde que consiga relacionar sua análise ao que está em jogo para […]
Quando a IA antecipa nossas reações, o que acontece com nossas escolhas?
Uma pesquisa do KAIST, em parceria com a Microsoft Research Asia, chamou minha atenção ao propor uma forma de ajustar o comportamento da inteligência artificial a partir de sinais cerebrais. O sistema, chamado Neural Value Alignment, utiliza eletroencefalografia para identificar divergências entre aquilo que uma pessoa espera e aquilo que a IA faz, distinguindo aspectos […]
De modelos a arquiteturas cognitivas: o que pode vir depois dos LLMs
Grande parte da evolução recente da inteligência artificial foi guiada por uma lógica relativamente simples: modelos maiores, mais capazes e com mais raciocínio tendem a produzir respostas melhores. Essa evolução foi fundamental. Mas ela também criou um hábito: recorrer ao mesmo tipo de modelo para tarefas cognitivamente muito diferentes – classificar uma informação, avaliar um […]
Além da previsão: inferência contrafactual para decisões mediadas por IA
Durante boa parte da evolução recente da inteligência artificial, o valor esteve associado à capacidade de produzir uma resposta: resumir informações, analisar documentos, gerar recomendações ou executar tarefas. Mas uma nova fronteira começa a ganhar força: usar IA não apenas para responder ao que sabemos, mas para explorar o que poderia acontecer se alguma coisa […]
Por que agentes precisam compreender a realidade antes de recomendar decisões
Grande parte dos agentes de IA ainda funciona de uma maneira relativamente simples: recebe documentos, histórico de conversas, instruções e dados disponíveis naquele momento e tenta inferir, a partir desse conjunto, o que está acontecendo e o que deveria fazer a seguir. Quanto mais contexto fornecemos, maior parece ser sua capacidade de compreender a situação. […]
Respostas plausíveis, decisões frágeis: o custo oculto da inferência excessiva
Uma das características mais impressionantes dos modelos de linguagem é sua capacidade de produzir respostas coerentes mesmo quando recebem poucas informações. Para muitas tarefas, isso é uma vantagem. Mas, quando a IA participa de uma decisão, essa mesma capacidade pode criar um problema difícil de perceber: a resposta pode parecer mais segura do que a […]
Como a metacognição pode tornar agentes de IA melhores para decidir
Grande parte da evolução recente da IA tem sido medida pela capacidade de seus modelos de raciocinar mais: decompor problemas, explorar alternativas, utilizar ferramentas e executar tarefas cada vez mais complexas. Mas, quando esses sistemas começam a participar de decisões reais, surge uma questão anterior à capacidade de raciocinar: como o agente sabe quando possui […]
Quando a inteligência se distribui, quem responde pela decisão?
Em 1976, Michael Jensen e William Meckling publicaram Theory of the Firm: Managerial Behavior, Agency Costs and Ownership Structure, um trabalho que se tornaria uma das referências mais influentes para compreender a governança das organizações. Um de seus fundamentos é a relação de agência: quando uma pessoa, o principal, delega a outra, o agente, autoridade […]
O Middle Office e a Nova Economia do Julgamento
A primeira grande promessa da inteligência artificial nas empresas foi relativamente simples: fazer mais, mais rápido e com menos esforço humano. Redação, classificação, pesquisa, atendimento, processamento de documentos e inúmeras tarefas administrativas passaram a ser executadas ou assistidas por modelos cada vez mais capazes. O ganho é real, mas começa a surgir uma questão mais […]