Glossário do Jev em português

A documentação da TypeSafe é enxuta, mas usa vocabulário próprio. Este glossário reúne os termos que aparecem com mais frequência, em ordem alfabética, com a explicação curta em português e o link para a página deste guia que aprofunda cada um.

A

Alias. Nome de modelo que aponta para uma versão específica. Os oficiais são jev-latest e jev-preview, e hoje os dois apontam para o jev-1.13.0. O alias se move quando sai versão nova, então quem ajustou limiares contra uma versão deve fixar o identificador dela.

Autenticação. A API espera o cabeçalho Authorization: Bearer <chave>. Chave ausente ou inválida devolve 401.

B

Banda de incerteza. Faixa central de probabilidade em que a aplicação devolve “incerto” em vez de sim ou não, mandando o caso para uma pessoa. É lógica de aplicação, não campo da API. Ver revisão humana.

Beam search. Percorrer uma taxonomia mantendo vários caminhos abertos em vez de fechar no filho mais provável de cada nó. Ver beam search hierárquico.

Btok. Bilhão de tokens. A página de modelos usa Btok e Mtok (milhão de tokens) para expressar preço.

C

Calibração. Propriedade de a probabilidade corresponder à frequência real dos desfechos, medida em grupos de previsões. Não é garantia sobre uma resposta individual. Ver decisões calibradas.

Cascata. Desenho em que um modelo barato resolve o caso comum, um verificador barato checa e só o sinalizado sobe para o modelo caro. Ver cascata de extração.

Choice. Primitiva que escolhe uma opção de um conjunto definido. Devolve a opção escolhida, a distribuição de probabilidades entre as opções e a confiança. Aceita no máximo 255 opções. Ver choice.

Confiança (confidence). Estatística de 0 a 1 derivada da forma da distribuição: concentrada significa alta, espalhada significa baixa. Existe em Choice e Score; não existe em Noul. Ver confiança.

Context rot. Queda de acurácia quando o state cresce com conteúdo que a pergunta não usa. Ver context rot.

criteria. Campo que descreve as opções de um Choice, os níveis de um Score ou o significado de true e false em um Noul. É onde a maior parte da qualidade da resposta é decidida. Ver critérios que separam.

D

Distribuição de probabilidades (probabilities). O vetor com a probabilidade de cada opção (Choice) ou de cada nível (Score). Soma 1.

E

Endpoint. O endereço único de avaliação: POST https://api.typesafe.ai/v1/systemone. A lista de modelos fica em GET https://api.typesafe.ai/v1/models.

Erro 422. Corpo reprovado na validação; a resposta indica qual campo. Os outros códigos documentados são 401, 429 e 529.

F

Fan-out especulativo. Mandar numa única chamada todas as perguntas que qualquer caminho do fluxo pode precisar, inclusive as que talvez não sejam lidas. Ver fan-out especulativo.

G

Greedy search. Percorrer a hierarquia escolhendo sempre o filho mais provável e descartando as alternativas. O oposto do beam search.

I

instructions. O texto da pergunta. A orientação oficial é escrever a condição exata, porque o modelo responde a pergunta escrita, não a intenção.

J

Jaggedness. Nome da página oficial que lista os modos de falha conhecidos de uma versão. São nove no jev-1.13. Ver limites do Jev.

Jev. O modelo da TypeSafe AI, o primeiro da classe System One. A versão atual é a jev-1.13.0. Ver o que é Jev.

L

legend. Campo que a resposta de um Score traz com o significado de cada nível, para você não precisar guardar a régua em outro lugar.

Limite de contexto. 64 mil tokens por requisição e 32 mil para o state mais a pergunta mais longa, segundo a página de modelos.

M

Mode dropping. Efeito que a TypeSafe atribui à otimização por preferência humana: o modelo passa a favorecer um estilo e reduz a probabilidade de outras saídas possíveis.

N

Noul. Primitiva de sim e não que devolve um número de 0 a 1, a probabilidade de a resposta ser sim. Não devolve confiança. Ver noul.

O

Opção. Cada alternativa de um Choice, com nome e descrição. O nome é o que volta em choice; a descrição é o que separa uma alternativa da outra.

P

Pergunta tipada. Uma instância de primitiva, com seu tipo, instructions e criteria. Várias perguntas vão no mesmo pedido e são avaliadas contra o mesmo state.

Pontuação composta. Quebrar um julgamento em notas atômicas e combinar com pesos no seu código. Ver pontuação composta.

Primitiva. O tipo de pergunta: Choice, Score ou Noul. São três, e a escolha entre elas está em qual primitiva usar.

R

Rate limit. Os limites declarados são 250 mil tokens por segundo e 1.200 requisições por minuto, e a TypeSafe avisa que eles mudam sem aviso durante o acesso antecipado. Estouro devolve 429.

Revisão de decisão automatizada. No Brasil, o artigo 20 da Lei 13.709/2018 dá ao titular o direito de solicitar revisão de decisões tomadas unicamente por tratamento automatizado que afetem seus interesses. Este guia não dá orientação jurídica; a consequência de arquitetura é guardar a distribuição junto da decisão.

RLCD. Reinforcement learning for calibrated decisions, o caminho de pós-treino que a TypeSafe declara usar para devolver decisões e probabilidades calibradas em vez de texto.

RLHF e RLVR. Os dois caminhos de pós-treino que a documentação apresenta como contraste: o primeiro criou os chatbots, treinando para respostas preferidas por pessoas; o segundo criou os modelos de raciocínio, mais fortes em matemática e mais lentos e caros.

Roteamento de intenção. Classificar o pedido e mandar cada caso para o executor certo: código, LLM especialista ou pessoa. Ver roteamento de intenção.

Roteamento por confiança. Usar a confiança como segundo eixo, decidindo se o código pode agir sozinho. Ver roteamento por confiança.

S

Score. Primitiva que pontua contra níveis ordenados e descritos, de 2 a 10 níveis. Devolve a nota, a régua, a distribuição e a confiança. Ver score.

SDK. As bibliotecas oficiais de cliente, em Python e em JavaScript. A de Python se instala como typesafe-sdk e lê a chave de TYPESAFE_API_KEY. Ver Python.

state. O conteúdo que o modelo avalia: string, objeto JSON ou lista de textos. Entra uma vez por chamada e todas as perguntas são avaliadas contra ele. Ver state.

System One. A classe de modelo feita para decisões rápidas e estruturadas que software consome direto. Ver modelo System One.

System Two. Na documentação, aparece como o tipo de tarefa a evitar: a que exige mais camadas de indireção. Ver System One e System Two.

T

Token. A unidade de cobrança e de orçamento de contexto. O Jev cobra por token de entrada, a US$ 0,042 por milhão, e a saída é gratuita. A conta em reais está em preço.

Z

ZDR. Zero data retention, a retenção zero de dados que a documentação cita como disponível para clientes empresariais, com os detalhes na página legal da TypeSafe.

Faltou um termo? O índice de conceitos fica em conceitos, e as perguntas diretas ficam em perguntas.