Quanto custa o Jev
Uma taxa única. Tokens de entrada são cobrados. Tokens de saída são gratuitos.
Entrada: US$ 0,042 por milhão de tokens
A AIReiter cobra US$ 0,042 para cada milhão de tokens de entrada. Essa é a mesma taxa que a Cloudflare lista para typesafe/jev.
Saída: gratuita
Tokens de saída não são cobrados. Uma chamada que retorna uma pontuação curta ainda paga apenas pelo state e questions que você enviou.
Você paga pela contagem real de tokens
Depois que a resposta upstream retorna, a AIReiter lê usage.input_tokens e liquida essa quantidade de tokens. Se a resposta não tiver usage, a chamada é registrada como zero.
Como chamar o Jev
Envie model jev. state e questions são encaminhados sem alterações. Esta não é uma API de chat e não faz streaming.
Envie um POST
POST https://aireiter.com/api/v1/systemone Authorization: Bearer $AIREITER_API_KEY Content-Type: application/json
Coloque o julgamento no corpo
{ "model": "jev", "input": { "state": "The payment API timed out.", "questions": { "is_urgent": { "type": "noul", "instructions": "Does this need a person right now?" } } } }
Leia a resposta no mesmo retorno
O JSON upstream é retornado no formato original. O julgamento está em result.result.answers. Um valor noul é a probabilidade de sim, de 0 a 1.
FAQ da API Jev
/ 01A requisição é reescrita?
state e questions são encaminhados sem alterações. O nome de modelo público jev é enviado para a Cloudflare como typesafe/jev. O corpo da resposta é retornado inalterado.
/ 02Posso fazer streaming?
Não. A chamada aguarda uma única resposta JSON.
/ 03O que significa uma pontuação?
As opções de pontuação são ordenadas do menor para o maior. A primeira linha é 0, a próxima é 1. Uma pontuação de 1.99 em três linhas fica quase na terceira linha.
/ 04Qual nome de modelo devo enviar?
Envie model jev. A AIReiter o encaminha para a Cloudflare como typesafe/jev. A resposta informa a versão utilizada, atualmente jev-1.13.0.