Question 1

O que é Azion AI Inference?

Accepted Answer

Azion AI Inference é uma plataforma serverless para implantar e executar modelos de AI em uma arquitetura distribuída. Ela oferece uma API compatível com OpenAI para facilitar a migração, suporta LLMs, VLMs, embeddings e modelos de reranking, e oferece fine-tuning com LoRA para personalização de domínio. Escale automaticamente sem gerenciar GPUs, mantendo respostas de baixa latência globalmente.

Question 2

Quais modelos posso executar?

Accepted Answer

Escolha entre um catálogo de modelos open-source para geração de texto e código, tarefas de vision-language, embeddings e reranking. O catálogo evolui conforme novos modelos ficam disponíveis, e você pode fazer fine-tuning dos modelos compatíveis com LoRA para o seu domínio específico.

Question 3

É compatível com a API da OpenAI?

Accepted Answer

Sim. AI Inference usa um formato de API compatível com OpenAI, então você pode migrar aplicações existentes atualizando apenas a URL base e as credenciais. Mantenha seus SDKs e padrões de integração atuais — sem necessidade de reescrever código.

Question 4

Posso fazer fine-tuning de modelos?

Accepted Answer

Sim. AI Inference suporta fine-tuning com LoRA (Low-Rank Adaptation), permitindo especializar modelos para o seu domínio sem retreinamento completo. Isso reduz os custos de computação enquanto melhora a precisão em tarefas específicas, como suporte ao cliente, geração de código ou Q&A de domínio específico.

Question 5

Como construo RAG e busca semântica?

Accepted Answer

Use AI Inference com o SQL Database Vector Search para armazenar embeddings e recuperar contexto relevante para aplicações RAG. Essa busca vetorial integrada significa que não é necessário gerenciar um banco de dados vetorial separado — SQL e vetores em um único serviço.

Question 6

Posso construir AI agents e workflows com tool-calling?

Accepted Answer

Sim. AI Inference viabiliza padrões de agents como ReAct e workflows com tool-calling quando combinado com Applications, Functions e APIs externas. A Azion oferece templates e guias para arquiteturas de agents baseadas em LangChain e LangGraph.

Question 7

Como faço para migrar do Cloudflare Workers AI?

Accepted Answer

A migração é simples graças às APIs compatíveis com OpenAI em ambas as plataformas. Atualize sua URL base para apontar para os endpoints do Azion AI Inference, migre eventuais adaptadores LoRA e integre com o Azion Functions. Se você usa o Cloudflare Vectorize, migre para o Azion SQL Database Vector Search, que já oferece armazenamento vetorial integrado.

Question 8

Como o preço se compara a outras plataformas?

Accepted Answer

AI Inference usa um modelo de preços simples por requisição, sem unidades abstratas como "neurons". Você paga pelas requisições de inferência com base no modelo e no uso de tokens — sem custos de ociosidade, sem compromissos de capacidade. Essa transparência torna a previsão de custos mais previsível em comparação a modelos de cobrança baseados em neurons.

Question 9

Como faço deploy de AI inference na minha aplicação?

Accepted Answer

Crie um endpoint de AI Inference e integre-o ao seu fluxo de requisições usando Applications e Functions. Isso adiciona capacidades de AI a APIs existentes e experiências de usuário, com execução distribuída, escalonamento gerenciado e failover automático.

Inferência de AI global em infraestrutura gerenciada

Confiabilidade integrada

API compatível com OpenAI

Pague pelo uso

Implemente a partir do seu ambiente local

Faça fine-tuning com LoRA

Do hello world às workloads de AI em produção

O que você pode construir com AI Inference

AI agents para workflows automatizados

Aplicações com AI (RAG + busca)

Geração de imagens e AI visual

Conversão de fala em texto e processamento de áudio

Copilot de suporte ao cliente

Detecção e remoção automatizada de ameaças

Primitivas que escalam com você

Perguntas Frequentes

Construa uma vez.Rode em qualquer lugar.