Question 1

¿Qué es Azion AI Inference?

Accepted Answer

Azion AI Inference es una plataforma serverless para desplegar y ejecutar modelos de AI en una arquitectura distribuida. Ofrece una API compatible con OpenAI para una migración sencilla, soporta LLMs, VLMs, embeddings y modelos de reranking, y ofrece fine-tuning con LoRA para personalización de dominio. Escala automáticamente sin gestión de GPU, manteniendo respuestas de baja latencia a nivel global.

Question 2

¿Qué modelos puedo ejecutar?

Accepted Answer

Elige entre un catálogo de modelos de código abierto para generación de texto y código, tareas de vision-language, embeddings y reranking. El catálogo evoluciona a medida que hay nuevos modelos disponibles, y puedes hacer fine-tuning de los modelos compatibles con LoRA para tu dominio específico.

Question 3

¿Es compatible con la API de OpenAI?

Accepted Answer

Sí. AI Inference usa un formato de API compatible con OpenAI, por lo que puedes migrar aplicaciones existentes actualizando la URL base y las credenciales. Mantén tus SDKs y patrones de integración actuales: no se requiere reescribir código.

Question 4

¿Puedo hacer fine-tuning de modelos?

Accepted Answer

Sí. AI Inference soporta fine-tuning con LoRA (Low-Rank Adaptation), lo que te permite especializar modelos para tu dominio sin necesidad de un reentrenamiento completo. Esto reduce los costos de cómputo mientras mejora la precisión en tareas específicas como soporte al cliente, generación de código o preguntas y respuestas de dominio específico.

Question 5

¿Cómo construyo RAG y búsqueda semántica?

Accepted Answer

Usa AI Inference junto con SQL Database Vector Search para almacenar embeddings y recuperar el contexto relevante en aplicaciones de RAG. Esta búsqueda vectorial integrada significa que no necesitas gestionar una base de datos vectorial aparte: SQL y vectores en un solo servicio.

Question 6

¿Puedo construir AI agents y workflows con tool-calling?

Accepted Answer

Sí. AI Inference impulsa patrones de agentes como ReAct y workflows con tool-calling cuando se combina con Applications, Functions y APIs externas. Azion ofrece plantillas y guías para arquitecturas de agentes basadas en LangChain y LangGraph.

Question 7

¿Cómo migro desde Cloudflare Workers AI?

Accepted Answer

La migración es sencilla gracias a las APIs compatibles con OpenAI en ambas plataformas. Actualiza tu URL base para apuntar a los endpoints de Azion AI Inference, migra los adaptadores LoRA que tengas y realiza la integración con Azion Functions. Si usas Cloudflare Vectorize, migra a Azion SQL Database Vector Search para almacenamiento vectorial integrado.

Question 8

¿Cómo se compara el precio con otras plataformas?

Accepted Answer

AI Inference usa un precio simple por solicitud, sin unidades abstractas como "neuronas". Pagas por las solicitudes de inferencia según el modelo y el uso de tokens, sin costos por inactividad ni compromisos de capacidad. Esta transparencia hace que la previsión de costos sea predecible en comparación con modelos de facturación basados en neuronas.

Question 9

¿Cómo despliego AI Inference en mi aplicación?

Accepted Answer

Crea un endpoint de AI Inference y luego intégralo en tu flujo de solicitudes usando Applications y Functions. Esto añade capacidades de AI a APIs existentes y experiencias de usuario con ejecución distribuida, escalado gestionado y failover automático.

Inferencia de AI global sobre infraestructura administrada

Confiabilidad integrada

API compatible con OpenAI

Paga por uso

Despliega desde tu entorno local

Ajusta modelos con LoRA

Del hello world a workloads de AI en producción

Qué puedes construir con AI Inference

AI agents para workflows automatizados

Aplicaciones con AI (RAG + búsqueda)

Generación de imágenes y AI visual

Transcripción de voz a texto y procesamiento de audio

Copilot de soporte al cliente

Detección y eliminación automatizada de amenazas

Primitivas que escalan contigo

Preguntas frecuentes

Crea una vez.Ejecuta en todas partes.