//Comparativo

Jev vs um classificador BERT treinado

Um modelo treinado é imbatível por chamada e caro por mudança. A escolha depende menos de acurácia e mais de quantas vezes a sua regra muda por ano.

Classificador de texto treinado é tecnologia madura. Um modelo tipo BERT ajustado para a sua taxonomia roda na sua infraestrutura, responde em poucos milissegundos e custa quase nada por inferência. Para muitos problemas, ele continua sendo a resposta certa, e este site não vai fingir o contrário.

O que mudou não foi a acurácia dele. Foi o custo de chegar até ele e o custo de mudar de ideia depois.

A tarefa

Classificar texto de um domínio específico, com uma taxonomia sua, em volume alto e com a rubrica sujeita a revisão. Triagem de chamado, categorização de produto, rotulagem de passagem. A parte interessante da tarefa é a última: a rubrica muda.

O contrato de cada lado

Classificador treinado (tipo BERT)Jev (jev-1.13.0)
Como aprende a tarefaExemplos rotulados e treino supervisionadoUma frase de descrição por opção ou nível
Tempo até a primeira versãoColeta, rotulagem, treino, avaliaçãoUma chamada
Custo por chamadaFração de centavo na sua infraestruturaUS$ 0,042 por milhão de tokens de entrada, saída gratuita
LatênciaPoucos milissegundos, sem sair da rede70 a 500 ms declarados; 270 a 802 ms nas nossas cinco medições de fora, incluindo rede
Mudar a taxonomiaNovos rótulos, novo treino, nova avaliaçãoEditar um texto
IncertezaSoftmax, que precisa ser calibrado à parteDistribuição e confiança, com calibração declarada pela TypeSafe
Onde a regra ficaImplícita nos pesosExplícita no repositório, com histórico

Onde o Jev ganha

O tempo até a primeira versão. É a diferença mais concreta. Um classificador exige um conjunto rotulado antes de existir; o Jev exige uma frase por opção. Para a maioria dos projetos, a alternativa treinada morre na fase de rotular, e não na fase de treinar.

O custo de mudar a rubrica. Um nível novo de severidade, uma categoria que se divide em duas, uma exceção que a área de negócio criou este mês: cada uma dessas mudanças é um ciclo completo de retreino do lado do classificador, e uma edição de texto do lado do Jev. Quanto mais viva for a regra, maior a vantagem.

A regra fica legível. O criteria é a política escrita. Isso resolve uma discussão que o classificador não resolve: por que este caso foi para cá. Como escrever esse texto está em critérios que separam.

Perguntar mais coisas sai quase de graça. O texto entra uma vez e todas as perguntas são avaliadas contra ele na mesma chamada. Acrescentar uma dimensão ao classificador significa outro modelo ou outra cabeça treinada.

A incerteza já vem com contrato declarado. A TypeSafe descreve o treino como RLCD, voltado a probabilidades calibradas, com a ressalva de que a calibração é medida em grupos de previsões. O softmax de um classificador costuma precisar de calibração à parte antes de virar limiar. O tema está em decisões calibradas.

Onde o classificador treinado ganha

O custo por chamada, quando o volume é enorme. Dezenas de milhões de inferências por mês na sua própria infraestrutura têm custo marginal que nenhuma API alcança. Se essa é a sua escala, a conta é objetiva e não precisa de argumento.

A latência, por uma ordem de grandeza. Poucos milissegundos dentro da rede, sem viagem pela internet. Nas nossas cinco chamadas de 18 de setembro de 2026, medidas de fora e incluindo rede, o Jev ficou entre 270 e 802 milissegundos, com mediana de 538. Para um ranqueamento dentro do laço de renderização de uma página, isso pode ser demais.

O dado não sai. Restrição regulatória ou contratual que exige processamento local encerra a discussão.

Ele aprende o que você não consegue escrever. Se a equipe rotula bem e não consegue explicar o critério, milhares de exemplos carregam um padrão que nenhuma frase carrega.

Ele aproveita o histórico rotulado que você já tem. Dez anos de casos decididos por especialistas são um ativo, e o Jev não usa esse ativo — a documentação diz que não há ajuste fino nem LoRA com dados do cliente, e que os mesmos pesos servem todas as contas. O assunto está em Jev vs fine-tuning.

Ele não depende de fornecedor. Um modelo seu não muda de comportamento porque um alias apontou para uma versão nova.

O desenho que usa os dois

A escolha mais interessante não é entre os dois: é somar. O cookbook oficial de autopesquisa mostra isso com números.

A tarefa é prever a nota de 80 a 100 que um crítico deu a um vinho, a partir apenas da nota de degustação, sobre 2.000 avaliações — 1.200 linhas de desenvolvimento e 800 retidas para teste. Um LLM propõe perguntas, o Jev as responde para todas as linhas, e um CatBoost treina sobre as respostas. As 38 perguntas finais viraram 67 colunas numéricas: 29 Score a duas colunas cada (nível médio e dispersão) e 9 Noul a uma coluna.

AbordagemRMSE nas linhas retidasSpearman
Prever a média das linhas de desenvolvimento3,088-0,014
A nota como contagem de palavras, no mesmo CatBoost2,4660,605
Perguntar a nota diretamente ao Jev2,1450,761
18 perguntas da primeira rodada, sem o laço1,8690,778
38 perguntas após as cinco rodadas1,7720,799

RMSE mede o erro em pontos da nota do crítico, e menor é melhor. Duas leituras saltam da tabela. A primeira: transformar o texto em perguntas e treinar em cima delas ficou melhor que perguntar a nota diretamente ao modelo. A segunda: o laço de realimentação, da rodada 1 para a rodada 5, valeu -0,097 ponto nas linhas retidas, com intervalo de 95% de -0,147 a -0,050 — um ganho real e pequeno, publicado com o intervalo junto.

Nesse desenho, o Jev não substitui o modelo supervisionado. Ele resolve o problema que o modelo supervisionado tem com texto livre: virar uma tabela de números.

Como escolher

  • Se você não tem dados rotulados, comece pelo Jev. Não existe escolha.
  • Se a rubrica muda várias vezes por ano, o Jev, pelo custo de mudança.
  • Se o volume é de dezenas de milhões e a latência precisa ser de poucos milissegundos, o classificador treinado.
  • Se o dado não pode sair da sua rede, o classificador treinado.
  • Se você tem rótulos e quer o melhor dos dois, use as respostas do Jev como features do seu modelo, como no experimento acima.

O índice desta seção fica em comparativos, e os limites declarados do modelo em limites do Jev.

Perguntas frequentes

Um BERT ajustado não é mais barato?

Por chamada, quase sempre é: rodando na sua infraestrutura, o custo marginal de uma inferência é fração de centavo e a latência é de poucos milissegundos. O que ele cobra caro é antes da primeira versão — coleta, rotulagem, treino e avaliação — e a cada vez que a rubrica muda.

Dá para usar os dois juntos?

É o desenho do cookbook oficial de autopesquisa: as respostas do Jev viram colunas numéricas e um CatBoost treina em cima delas. No experimento, 38 perguntas produziram 67 colunas — 29 Score a duas colunas e 9 Noul a uma.

Esse desenho funciona melhor que perguntar direto?

No experimento publicado, sim. Prever a média das linhas dá RMSE de 3,088; contagem de palavras no mesmo CatBoost, 2,466; perguntar a nota diretamente ao Jev, 2,145; 18 perguntas da primeira rodada, 1,869; e as 38 perguntas após cinco rodadas, 1,772. RMSE menor é melhor, e a tarefa era prever a nota de 80 a 100 de um crítico de vinho.

Quando o classificador treinado é a escolha certa?

Quando o volume é altíssimo e o custo por chamada domina, quando a latência precisa ser de poucos milissegundos dentro da sua rede, quando o dado não pode sair, e quando você já tem um histórico rotulado grande e uma rubrica que ninguém consegue escrever.

E se a minha taxonomia mudar?

É aí que a conta vira. Um rótulo novo significa novos exemplos, novo treino e nova avaliação para o classificador. No Jev, significa acrescentar uma opção com uma frase de descrição e rodar de novo.

Quer dominar decisões com IA em português? O curso da comunidade está em pré-venda.

Garantir pré-venda por R$ 499,00

Pré-venda: R$ 499,00 · Após o lançamento: R$ 799,00