Em 1º de julho de 2026, Alex Karp, CEO da Palantir, participou do programa Squawk Box, da CNBC. Durante o programa, afirmou que “alguma coisa deu completamente errado” na forma como a AI é comercializada. Seu alvo era o modelo de negócios baseado em tokens usado por provedores de AI de fronteira. A entrevista teve seu lado teatral. Ainda assim, expôs um problema prático. A precificação da inferência de AI costuma usar uma unidade técnica difícil de relacionar a solicitações, usuários ou resultados de negócio.
A preocupação vai além da Palantir. Nikesh Arora, CEO da Palo Alto Networks, argumentou que os custos dos tokens de AI talvez precisem cair até 90% para viabilizar uma adoção empresarial ampla. Segundo relatos, a Uber estabeleceu um limite mensal de $1,500 por funcionário e por ferramenta de programação agêntica. A medida veio depois de a empresa consumir seu orçamento anual de AI em quatro meses.
Tokens mais baratos ajudariam, mas o preço, sozinho, não resolve o problema de medição. Tokens continuam sendo uma telemetria útil para a engenharia. Porém, funcionam pior como unidade comercial universal para inferência, pois sua quantidade varia entre modelos, tokenizers, idiomas, estratégias de contexto e modos de raciocínio.
Um modelo baseado em computação oferece outro caminho. A cobrança por solicitação e GB-hour conecta a fatura ao volume do workload, à memória e ao tempo de execução. São as mesmas dimensões operacionais que os times de plataforma já monitoram.
Por que a precificação da inferência de AI virou um problema de governança
A precificação por tokens parece simples em uma tabela de preços. O provedor publica um valor por milhão de tokens de entrada e outro por tokens de saída. Assim, os times podem multiplicar essas tarifas pelo uso esperado e estimar um orçamento.
Essa abordagem funciona bem quando os prompts são estáveis, as respostas têm limites claros e as aplicações seguem padrões previsíveis de solicitação. Na prática, porém, os sistemas modernos de AI raramente se comportam assim. A geração aumentada por recuperação altera o tamanho da entrada conforme o contexto recuperado. Workflows agênticos podem gerar várias chamadas ao modelo, acionar ferramentas, repetir etapas que falharam e raciocinar antes de entregar uma única resposta.
Embora o negócio enxergue apenas uma solicitação, a fatura pode refletir várias categorias de consumo de tokens. Com isso, três perguntas básicas de FinOps ficam muito mais difíceis de responder:
- Quanto custará uma ação do cliente?
- O que fez o custo por solicitação mudar?
- Uma atualização de modelo mudará a fatura mesmo se o tráfego permanecer estável?
Com instrumentação suficiente, a telemetria de tokens pode ajudar a responder essas perguntas. Mesmo assim, a métrica comercial ainda obriga os times a traduzir o comportamento da aplicação em unidades específicas de cada modelo antes de prever os gastos.
Como funciona a precificação baseada em tokens
Um token é um segmento de texto representado por um identificador numérico. Dependendo do tokenizer, ele pode representar uma palavra, parte de uma palavra, um sinal de pontuação ou outro fragmento de texto. É o tokenizer que determina como o texto será dividido antes de o modelo processá-lo.
Os provedores normalmente cobram tarifas diferentes para várias classes de tokens:
- Tokens de entrada: prompts, instruções de sistema, histórico da conversa e contexto recuperado.
- Tokens de entrada em cache: conteúdo repetido do prompt, processado com desconto quando o provedor oferece prompt caching.
- Tokens de saída: respostas visíveis e, em alguns modelos e APIs, tokens de raciocínio ou formatação que não aparecem na resposta final.
Os preços atuais mostram como essas categorias podem divergir. Em julho de 2026, a OpenAI lista o GPT-5.5 por $5 por milhão de tokens de entrada. Tokens de saída custam $30 por milhão na modalidade standard para contextos curtos. O processamento prioritário eleva essas tarifas para $12.50 e $75.
O Claude Sonnet 5 tem preço introdutório de $2 por milhão de tokens de entrada. Tokens de saída custam $10 por milhão até 31 de agosto de 2026. As tarifas standard de $3 e $15 entram em vigor em 1º de setembro.
Os clientes não ficam sem controle nesse modelo. A OpenAI, por exemplo, documenta que max_output_tokens e max_completion_tokens limitam tanto a saída visível quanto a não visível.
Onde a precificação da inferência de AI baseada em tokens falha
A principal fraqueza dessa abordagem não é que tokens sejam imaginários ou impossíveis de medir. O problema é que eles dependem do modelo. Um milhão de tokens não representa uma quantidade fixa de linguagem, trabalho, latência ou valor de negócio.
Uma mudança no tokenizer pode alterar custos sem mudar a tarefa
Cada família de modelos escolhe seu tokenizer e seu vocabulário. A migração para outro modelo pode mudar a contagem de tokens do mesmo prompt, mesmo quando o comportamento da aplicação permanece igual.
A Anthropic oferece um exemplo atual. Sua documentação informa que o tokenizer mais recente usado pelo Claude Sonnet 5 produz aproximadamente 30% mais tokens para o mesmo texto do que o tokenizer anterior.
Tarifas para contextos longos, gravações e leituras de cache, processamento em lote, processamento prioritário e acréscimos por residência de dados adicionam mais variáveis. A comparação entre tabelas de preços raramente se resume a um valor de entrada e outro de saída.
A saída tem limites, mas não é totalmente previsível
Os desenvolvedores podem definir limites de saída e instruir o modelo a ser conciso. O consumo real ainda depende da tarefa, do comportamento do modelo, do esforço de raciocínio, das chamadas de ferramentas e da estrutura da resposta.
Isso importa porque tokens de saída geralmente custam cinco ou seis vezes mais do que tokens de entrada. Modelos de raciocínio também podem gerar tokens faturáveis que nunca aparecem na resposta visível. A documentação da OpenAI sobre contagem de tokens explica que a saída registrada pode incluir tokens de raciocínio, formatação, delimitadores e chamadas de ferramentas.
A tokenização pode criar um custo adicional por idioma
O mesmo significado pode gerar quantidades diferentes de tokens em idiomas distintos. Um estudo revisado por pares encontrou diferenças de até 15 vezes, dependendo do tokenizer. Mesmo com tokenizers multilíngues melhores, a cobrança por quantidade de tokens pode gerar custos inconsistentes entre aplicações globais.
Workflows agênticos ampliam todas as fontes de variação
Uma solicitação convencional de chat pode gerar uma única chamada ao modelo. Um agente pode planejar, recuperar contexto, chamar ferramentas, avaliar um resultado e repetir a operação. Cada etapa adiciona entrada, saída ou ambas. Duas solicitações que parecem idênticas na camada do produto podem gerar faturas de tokens muito diferentes.
Esse ambiente deu origem ao “tokenmaxxing”: times que tratam o consumo de tokens como indicador de adoção ou produtividade com AI.
O que o Neurons da Cloudflare mudou — e o que não mudou
O Cloudflare Workers AI introduziu Neurons como uma unidade para inferência de texto, imagem e áudio. Atualmente, o serviço custa $0.011 por 1,000 Neurons, com 10,000 Neurons incluídos por dia.
A ideia fazia sentido: converter várias modalidades de AI em uma única moeda de cobrança. Na prática, os clientes ainda precisavam de uma tabela de conversão específica para cada modelo. Para o Llama 3.2 1B Instruct, a documentação atual da Cloudflare lista 2,457 Neurons por milhão de tokens de entrada. A saída consome 18,252 Neurons por milhão de tokens. O Llama 3.1 70B FP8 usa 26,668 e 204,805 Neurons para as mesmas categorias.
A Cloudflare reconheceu o problema de usabilidade em 2024. A empresa afirmou que os clientes consideravam Neurons difíceis de entender e comparar e anunciou a migração para uma precificação baseada em unidades. Em 2025, esclareceu que o uso seria exibido em unidades conhecidas, como tokens, segundos de áudio, tamanho da imagem e etapas. A cobrança no backend, porém, continuaria usando Neurons.
Exibir tokens facilita a comparação, mas não elimina a camada proprietária de conversão. Um rótulo universal não cria uma unidade comercial universal quando cada modelo exige uma taxa de conversão diferente.
O valor prático da precificação baseada em computação
Uma métrica em GB-hours vincula a cobrança a duas dimensões observáveis dos recursos: memória e tempo de execução. A cobrança adicional por solicitação considera o volume do workload e o overhead da plataforma em cada execução.
As plataformas serverless popularizaram esse modelo ao cobrar pelas solicitações e pelos recursos consumidos durante a execução. Ele oferece aos times de engenharia e finanças um vocabulário operacional comum, baseado em volume de solicitações, tempo de execução e uso de memória.
O incentivo também muda. Na precificação baseada em computação, execuções mais rápidas e footprints menores reduzem a fatura do cliente. Quantização, compressão de modelos e melhorias na camada de serving podem se transformar em economia mensurável, em vez de permanecer ocultas atrás de uma tarifa por token.
Precificação por tokens vs. precificação baseada em computação
Nenhuma das duas métricas elimina todas as variáveis. A pergunta mais útil é se o modelo de preços reflete as métricas que os times de engenharia e finanças já monitoram.
| Critério de decisão | Precificação baseada em tokens | Solicitações mais GB-hours |
|---|---|---|
| Unidades principais | Tokens de entrada, de entrada em cache e de saída | Volume de solicitações, memória e duração |
| Comparação entre modelos | Exige normalização do tokenizer e da tabela de preços | Usa uma única estrutura de tarifas; modelos maiores podem consumir mais tempo ou memória |
| Estimativa antes do deploy | Boa quando os formatos de prompt e resposta são estáveis | Boa depois de medir memória e tempo de execução |
| Consistência multilíngue | Pode variar conforme a eficiência do tokenizer | O idioma só afeta o runtime quando altera o comportamento da execução |
| Workflows agênticos | Cada ciclo, chamada de ferramenta e repetição adiciona categorias de tokens | O trabalho adicional aparece como mais solicitações e tempo de computação |
| Controles de custos | Limites de tokens, caching, roteamento e descontos por processamento em lote | Timeouts, dimensionamento de memória, concorrência, escolha do modelo e limites de solicitações |
| Melhor aplicação | APIs gerenciadas com formatos de solicitação estáveis | Times que buscam previsões no modelo de infraestrutura e portabilidade entre modelos |
A precificação por tokens ainda pode ser uma escolha razoável para APIs gerenciadas com padrões previsíveis de solicitação. Ela oferece aos desenvolvedores visibilidade direta sobre a entrada e a saída do modelo e dispensa o dimensionamento de recursos. Caching gerenciado pelo provedor e descontos por processamento em lote podem reduzir ainda mais o custo.
Já a precificação baseada em computação permite comparar modelos dentro de uma única estrutura comercial. Ela atende melhor aos times que executam modelos abertos ou otimizam aplicações completas de AI. A contrapartida é que os custos dependem do tempo de execução e da memória medidos. Por isso, modelos maiores ou mais lentos podem consumir mais GB-hours mesmo quando a tarifa unitária permanece igual.
Como a Azion aborda a precificação de AI Inference
O Azion AI Inference executa um catálogo de modelos abertos no Azion Runtime. O catálogo abrange geração de linguagem, vision-language models, embeddings, rerankers e OCR. AI Inference usa duas métricas de cobrança em todo o catálogo:
| Métrica | Preço |
|---|---|
| Solicitações | $0.60 por milhão |
| Tempo de computação | $0.22 por GB-hour |
O LoRA Fine-Tune segue a mesma estrutura, por $0.36 por milhão de solicitações e $0.14 por GB-hour.
Não há taxa de conversão de tokens nem matriz de preços por modelo. A estrutura tarifária permanece igual quando o time troca de modelo. O custo total ainda pode mudar, pois um modelo maior pode usar mais memória ou executar por mais tempo. Essa diferença aparece em GB-hours, que os times podem comparar com latência e qualidade.
Considere um workload simplificado que leva, em média, um segundo de execução com 1 GB de memória:
- Um milhão de solicitações consome 1,000,000 GB-segundos.
- Divida por 3,600 para obter 277.78 GB-hours.
- A $0.22 por GB-hour, a computação custa cerca de $61.11.
- Adicione $0.60 por um milhão de solicitações.
- Custo estimado de inferência: $61.71.
Este exemplo não inclui transferência de dados, armazenamento e outros produtos usados pela aplicação. Ele também pressupõe que a duração medida de um segundo e o footprint de 1 GB se mantenham em escala de produção. Como essas premissas podem ser validadas por benchmark, a estimativa é útil antes de um rollout completo.
A mesma estrutura se estende à arquitetura da aplicação. AI Inference se integra a Functions, Applications e à busca vetorial do SQL Database. Os times podem criar pipelines de RAG e agentes em uma única plataforma, mantendo métricas documentadas para cada serviço.
Exemplos práticos para prever custos da inferência de AI baseados em computação
Uma boa previsão começa com benchmarks próximos das condições de produção, e não com a quantidade de parâmetros do modelo. Teste prompts representativos, tamanhos de contexto, limites de saída e concorrência. Depois, registre três entradas:
- Volume mensal de solicitações.
- Duração média e percentis de execução.
- Memória consumida ou alocada por execução.
O cálculo-base é:
custo mensal = tarifas de solicitações + (solicitações × duração média em horas × memória em GB × tarifa por GB-hour)
Workloads agênticos e de RAG costumam ter uma cauda longa. Modele o tempo de execução p50, p95 e do pior caso. Depois, adicione cenários de crescimento do tráfego, novas tentativas e contextos de recuperação maiores.
Compare o custo por tarefa concluída com sucesso junto à precisão, latência e taxa de conclusão. Um modelo menor que repete uma tarefa duas vezes pode custar mais do que um modelo maior que a conclui na primeira tentativa. A métrica deve apoiar essa análise, não substituí-la.
Escolha um modelo de precificação da inferência de AI que seus times possam auditar
A crítica de Karp repercutiu porque muitas empresas adotaram AI antes de criar a governança necessária para administrar seus custos. A precificação baseada em tokens não é inerentemente opaca, mas sua maior limitação é a portabilidade. Cada modelo traz seu próprio tokenizer, preços, regras de contexto e comportamento de saída.
Para times que executam modelos abertos e otimizam aplicações de AI, solicitações e GB-hours oferecem um contrato operacional mais claro. Os custos ficam vinculados diretamente ao volume do workload, à memória e ao tempo de execução.
A Azion cobra $0.60 por milhão de solicitações e $0.22 por GB-hour no AI Inference. As mesmas tarifas valem para todo o catálogo, sem tabelas de conversão de tokens. Consulte a documentação do AI Inference, conheça os modelos disponíveis ou crie uma conta gratuita para executar um benchmark com seu próprio workload.