//Blog

O que muda no software quando decidir é barato

Amostragem, cache de julgamento e revisão no fim da fila existiam por um motivo só: julgar era caro. Quando o preço cai, as três deixam de fazer sentido.

Boa parte das decisões de arquitetura que um time toma não vem de princípio: vem de preço. A gente amostra porque avaliar tudo era caro. A gente empurra para um processo noturno porque a resposta demorava. A gente revisa no fim da fila porque revisar no meio custava gente.

Quando o preço de julgar muda de ordem de grandeza, essas escolhas deixam de ser prudência e passam a ser inércia. Este texto é sobre o que muda no desenho, e ele parte de três propriedades concretas: a decisão custa frações de centavo, volta em menos de um segundo e traz a própria incerteza como número.

Os três números que sustentam o argumento

Custo. O Jev cobra por token de entrada, a US$ 0,042 por milhão, com saída gratuita, segundo a documentação da TypeSafe. Nas nossas cinco chamadas de 18 de setembro de 2026, com seis perguntas cada, a média foi de 955 tokens, o que dá cerca de R$ 0,00022 por chamada com o dólar estimado em R$ 5,40.

Latência. A TypeSafe declara 70 a 500 milissegundos de ponta a ponta. Nas nossas medições, feitas do Brasil, do lado de fora e incluindo a rede, a ida e volta ficou entre 270 e 802 milissegundos, com mediana de 538.

Incerteza. Toda resposta de escolha ou de régua traz a distribuição completa de probabilidades e uma confiança de 0 a 1. A documentação descreve o treino como voltado a decisões calibradas e publica a ressalva junto: a calibração é medida em grupos de previsões e não garante que uma resposta individual esteja correta.

Cinco chamadas não são benchmark. Mas nenhuma das conclusões abaixo depende do número exato — depende da ordem de grandeza.

Primeira mudança: amostragem perde o sentido

Amostrar avaliações, tickets ou documentos nunca foi uma escolha metodológica: foi orçamento. Lia-se duzentos de vinte mil porque ler custava gente.

Com cem mil decisões por mês em torno de R$ 21,66, a amostra deixa de economizar qualquer coisa relevante e continua custando o que sempre custou: ela erra exatamente onde importa, nos casos raros e graves, que aparecem pouco. A conta completa está em o orçamento de 100 mil decisões.

O efeito prático é menos sobre dinheiro e mais sobre o tipo de pergunta que passa a ser respondível. “Quantas reclamações de entrega tivemos este mês” era uma estimativa; vira uma contagem.

Segunda mudança: a pergunta especulativa

Esta é a mais contraintuitiva. Como o conteúdo entra uma vez e cada pergunta soma apenas os próprios tokens, perguntar algo que você talvez não use é quase gratuito.

O cookbook oficial mediu: treze perguntas em uma chamada saíram 12,2 vezes mais baratas e 10,0 vezes mais rápidas que treze chamadas, sem mudança nas respostas. Daí sai um padrão que soa errado no começo e é o mais lucrativo do conjunto: mande todas as perguntas que qualquer ramo do fluxo possa precisar e deixe o código escolher o que ler. É o fan-out especulativo.

A consequência de desenho é maior que a de custo: o desvio do sistema sai da rede e vai para o código. A árvore de decisão deixa de ser uma sequência de idas e voltas e vira uma função pura sobre um bloco de respostas — legível, testável, versionada.

Terceira mudança: a incerteza vira estrutura

Este é o ponto que separa “modelo mais barato” de “categoria diferente”.

Quando a saída traz um número de incerteza, o sistema ganha um segundo eixo. A resposta diz o quê; a confiança diz se você pode agir. Isso permite escrever, no desenho, três comportamentos em vez de um: agir, confirmar, escalar.

E permite algo que quase nenhum sistema com IA tinha antes: decidir a faixa de revisão humana antes da produção, dimensionando a fila para ela. Não é “alguém confere no final”: é uma faixa com destino, capacidade e registro. O desenho está em revisão humana e a mecânica em roteamento por confiança.

Vale repetir o limite que a própria documentação publica: calibração é uma propriedade de grupos de previsões, não uma garantia sobre a resposta que está na sua frente. A distinção está em decisões calibradas.

Quarta mudança: o caro fica cercado

O desenho que aparece em quase todo caso real é de camadas. Um classificador barato na frente decide o desvio; o componente caro — um modelo que escreve, um modelo de raciocínio, uma pessoa — só é acionado no ramo que precisa dele.

Isso tem dois nomes na documentação: roteamento de intenção, quando o desvio escolhe o executor, e cascata de extração, quando um verificador barato decide se vale pagar o modelo forte.

O efeito colateral é de observabilidade. Depois de cercar o caro, dá para medir quanto de cada componente foi usado e quanto custou — o que transforma a discussão de custo em dado, e não em estimativa.

Quinta mudança: a regra volta a ser texto revisável

Como não existe ajuste fino com dados do cliente — os mesmos pesos servem todas as contas — a adaptação ao seu domínio acontece no conteúdo enviado e nas descrições das opções e dos níveis.

Parece limitação e tem um efeito bom: a política do time passa a morar em texto versionado. Quando alguém pergunta por que um caso foi classificado assim, a resposta é um parágrafo que dá para ler, discutir e mudar em um pull request — em vez de um vetor de pesos. Mudar a régua vira uma linha de diff, e não um ciclo de retreino. A comparação está em Jev vs fine-tuning.

O que não muda

Seria fácil terminar aqui, e seria desonesto.

Barato reduz o custo de perguntar, não o de errar. Em decisão que afeta uma pessoa — crédito, cobrança, candidatura — o custo do erro continua exatamente o mesmo. A tentação de automatizar porque ficou barato é o principal risco deste desenho, e é por isso que as páginas sensíveis deste guia mantêm a pessoa na decisão final e citam o artigo 20 da Lei 13.709/2018 em LGPD e decisões.

A fronteira do modelo continua onde estava. Ele não gera texto, não faz aritmética, não compara datas e perde acurácia com contexto irrelevante. A lista está em limites do Jev.

Pergunta ruim continua devolvendo resposta ruim, e mais barato só significa errar mais vezes por menos dinheiro.

O resumo

Quando julgar é caro, o sistema é desenhado para julgar pouco. Quando julgar fica barato, rápido e mensurável, o desenho pode inverter: julgar tudo, guardar a incerteza e gastar atenção humana só onde ela falta. Não é um modelo melhor fazendo a mesma coisa — é uma restrição que sai da mesa.

O índice do blog está em blog, e os sete padrões que materializam isso em padrões.

Perguntas frequentes

Por que o preço de uma decisão mudaria a arquitetura?

Porque várias escolhas clássicas de desenho existiam para economizar julgamento caro: amostrar em vez de avaliar tudo, adiar para um lote noturno, revisar só no fim. Quando a decisão custa frações de centavo e volta em menos de um segundo, essas escolhas passam a custar mais do que resolvem.

Qual é a mudança mais concreta?

Avaliar 100% do volume em vez de uma amostra. Nas nossas medições, uma chamada de 955 tokens saiu por cerca de R$ 0,00022, o que põe cem mil decisões por mês em torno de R$ 21,66 com o dólar estimado em R$ 5,40.

O que a incerteza calibrada acrescenta?

Um segundo eixo de decisão. A resposta diz o quê e a confiança diz se o código pode agir sozinho. Isso permite escrever a faixa de revisão no desenho, em vez de descobrir na produção que um caso duvidoso virou ação automática.

Isso substitui o LLM no sistema?

Não. O desenho que aparece é de camadas: o barato decide o desvio e o caro só é acionado no ramo que precisa escrever ou raciocinar. Os dois convivem, com papéis diferentes.

Qual é o risco desse desenho?

Automatizar o que não deveria ser automatizado só porque ficou barato. Barato reduz o custo de perguntar, não o custo de errar — e em decisão que afeta pessoas o segundo continua alto.

Quer dominar decisões com IA em português? O curso da comunidade está em pré-venda.

Garantir pré-venda por R$ 499,00

Pré-venda: R$ 499,00 · Após o lançamento: R$ 799,00