Classificador de texto treinado é tecnologia madura. Um modelo tipo BERT ajustado para a sua taxonomia roda na sua infraestrutura, responde em poucos milissegundos e custa quase nada por inferência. Para muitos problemas, ele continua sendo a resposta certa, e este site não vai fingir o contrário.
O que mudou não foi a acurácia dele. Foi o custo de chegar até ele e o custo de mudar de ideia depois.
A tarefa
Classificar texto de um domínio específico, com uma taxonomia sua, em volume alto e com a rubrica sujeita a revisão. Triagem de chamado, categorização de produto, rotulagem de passagem. A parte interessante da tarefa é a última: a rubrica muda.
O contrato de cada lado
| Classificador treinado (tipo BERT) | Jev (jev-1.13.0) | |
|---|---|---|
| Como aprende a tarefa | Exemplos rotulados e treino supervisionado | Uma frase de descrição por opção ou nível |
| Tempo até a primeira versão | Coleta, rotulagem, treino, avaliação | Uma chamada |
| Custo por chamada | Fração de centavo na sua infraestrutura | US$ 0,042 por milhão de tokens de entrada, saída gratuita |
| Latência | Poucos milissegundos, sem sair da rede | 70 a 500 ms declarados; 270 a 802 ms nas nossas cinco medições de fora, incluindo rede |
| Mudar a taxonomia | Novos rótulos, novo treino, nova avaliação | Editar um texto |
| Incerteza | Softmax, que precisa ser calibrado à parte | Distribuição e confiança, com calibração declarada pela TypeSafe |
| Onde a regra fica | Implícita nos pesos | Explícita no repositório, com histórico |
Onde o Jev ganha
O tempo até a primeira versão. É a diferença mais concreta. Um classificador exige um conjunto rotulado antes de existir; o Jev exige uma frase por opção. Para a maioria dos projetos, a alternativa treinada morre na fase de rotular, e não na fase de treinar.
O custo de mudar a rubrica. Um nível novo de severidade, uma categoria que se divide em duas, uma exceção que a área de negócio criou este mês: cada uma dessas mudanças é um ciclo completo de retreino do lado do classificador, e uma edição de texto do lado do Jev. Quanto mais viva for a regra, maior a vantagem.
A regra fica legível. O criteria é a política escrita. Isso resolve uma
discussão que o classificador não resolve: por que este caso foi para cá. Como
escrever esse texto está em
critérios que separam.
Perguntar mais coisas sai quase de graça. O texto entra uma vez e todas as perguntas são avaliadas contra ele na mesma chamada. Acrescentar uma dimensão ao classificador significa outro modelo ou outra cabeça treinada.
A incerteza já vem com contrato declarado. A TypeSafe descreve o treino como
RLCD, voltado a probabilidades calibradas, com a ressalva de que a calibração é
medida em grupos de previsões. O softmax de um classificador costuma precisar
de calibração à parte antes de virar limiar. O tema está em
decisões calibradas.
Onde o classificador treinado ganha
O custo por chamada, quando o volume é enorme. Dezenas de milhões de inferências por mês na sua própria infraestrutura têm custo marginal que nenhuma API alcança. Se essa é a sua escala, a conta é objetiva e não precisa de argumento.
A latência, por uma ordem de grandeza. Poucos milissegundos dentro da rede, sem viagem pela internet. Nas nossas cinco chamadas de 18 de setembro de 2026, medidas de fora e incluindo rede, o Jev ficou entre 270 e 802 milissegundos, com mediana de 538. Para um ranqueamento dentro do laço de renderização de uma página, isso pode ser demais.
O dado não sai. Restrição regulatória ou contratual que exige processamento local encerra a discussão.
Ele aprende o que você não consegue escrever. Se a equipe rotula bem e não consegue explicar o critério, milhares de exemplos carregam um padrão que nenhuma frase carrega.
Ele aproveita o histórico rotulado que você já tem. Dez anos de casos decididos por especialistas são um ativo, e o Jev não usa esse ativo — a documentação diz que não há ajuste fino nem LoRA com dados do cliente, e que os mesmos pesos servem todas as contas. O assunto está em Jev vs fine-tuning.
Ele não depende de fornecedor. Um modelo seu não muda de comportamento porque um alias apontou para uma versão nova.
O desenho que usa os dois
A escolha mais interessante não é entre os dois: é somar. O cookbook oficial de autopesquisa mostra isso com números.
A tarefa é prever a nota de 80 a 100 que um crítico deu a um vinho, a partir apenas da nota de degustação, sobre 2.000 avaliações — 1.200 linhas de desenvolvimento e 800 retidas para teste. Um LLM propõe perguntas, o Jev as responde para todas as linhas, e um CatBoost treina sobre as respostas. As 38 perguntas finais viraram 67 colunas numéricas: 29 Score a duas colunas cada (nível médio e dispersão) e 9 Noul a uma coluna.
| Abordagem | RMSE nas linhas retidas | Spearman |
|---|---|---|
| Prever a média das linhas de desenvolvimento | 3,088 | -0,014 |
| A nota como contagem de palavras, no mesmo CatBoost | 2,466 | 0,605 |
| Perguntar a nota diretamente ao Jev | 2,145 | 0,761 |
| 18 perguntas da primeira rodada, sem o laço | 1,869 | 0,778 |
| 38 perguntas após as cinco rodadas | 1,772 | 0,799 |
RMSE mede o erro em pontos da nota do crítico, e menor é melhor. Duas leituras saltam da tabela. A primeira: transformar o texto em perguntas e treinar em cima delas ficou melhor que perguntar a nota diretamente ao modelo. A segunda: o laço de realimentação, da rodada 1 para a rodada 5, valeu -0,097 ponto nas linhas retidas, com intervalo de 95% de -0,147 a -0,050 — um ganho real e pequeno, publicado com o intervalo junto.
Nesse desenho, o Jev não substitui o modelo supervisionado. Ele resolve o problema que o modelo supervisionado tem com texto livre: virar uma tabela de números.
Como escolher
- Se você não tem dados rotulados, comece pelo Jev. Não existe escolha.
- Se a rubrica muda várias vezes por ano, o Jev, pelo custo de mudança.
- Se o volume é de dezenas de milhões e a latência precisa ser de poucos milissegundos, o classificador treinado.
- Se o dado não pode sair da sua rede, o classificador treinado.
- Se você tem rótulos e quer o melhor dos dois, use as respostas do Jev como features do seu modelo, como no experimento acima.
O índice desta seção fica em comparativos, e os limites declarados do modelo em limites do Jev.
Perguntas frequentes
Um BERT ajustado não é mais barato?
Por chamada, quase sempre é: rodando na sua infraestrutura, o custo marginal de uma inferência é fração de centavo e a latência é de poucos milissegundos. O que ele cobra caro é antes da primeira versão — coleta, rotulagem, treino e avaliação — e a cada vez que a rubrica muda.
Dá para usar os dois juntos?
É o desenho do cookbook oficial de autopesquisa: as respostas do Jev viram colunas numéricas e um CatBoost treina em cima delas. No experimento, 38 perguntas produziram 67 colunas — 29 Score a duas colunas e 9 Noul a uma.
Esse desenho funciona melhor que perguntar direto?
No experimento publicado, sim. Prever a média das linhas dá RMSE de 3,088; contagem de palavras no mesmo CatBoost, 2,466; perguntar a nota diretamente ao Jev, 2,145; 18 perguntas da primeira rodada, 1,869; e as 38 perguntas após cinco rodadas, 1,772. RMSE menor é melhor, e a tarefa era prever a nota de 80 a 100 de um crítico de vinho.
Quando o classificador treinado é a escolha certa?
Quando o volume é altíssimo e o custo por chamada domina, quando a latência precisa ser de poucos milissegundos dentro da sua rede, quando o dado não pode sair, e quando você já tem um histórico rotulado grande e uma rubrica que ninguém consegue escrever.
E se a minha taxonomia mudar?
É aí que a conta vira. Um rótulo novo significa novos exemplos, novo treino e nova avaliação para o classificador. No Jev, significa acrescentar uma opção com uma frase de descrição e rodar de novo.