Como implementar o template Edge AI Starter Kit

O template Edge AI Starter Kit contém as configurações para criar uma edge application com APIs compatíveis com OpenAI, funcionando diretamente na rede distribuída da Azion. Este template simplifica o processo de implementação de modelos de AI no edge, eliminando dependências de origem e permitindo que você desenvolva aplicações inteligentes com rapidez.

A implementação deste template cria uma edge application com uma edge function e um domínio para facilitar seu acesso e gerenciamento através da Azion Web Platform.

Requisitos

• O template usa Application Accelerator, Edge Functions e Edge AI. Isso pode gerar custos relacionados ao uso. Consulte a página de preços para mais informações.

Implante o template

Você pode obter e configurar seu template através do Azion Console. Para implementar facilmente no edge, clique no botão abaixo.

Configure o template

No formulário de configuração, você deve fornecer as informações para personalizar sua aplicação. Preencha os campos apresentados.

Os campos identificados com um asterisco são obrigatórios.

1. Defina um nome para sua edge application.
   • O bucket para armazenamento e a edge function usarão o mesmo nome.
   • Use um nome único e fácil de lembrar. Se o nome já tiver sido usado, a plataforma retornará uma mensagem de erro.
2. Clique no botão Deploy para iniciar o processo de implementação.

Durante a implementação, você poderá acompanhar o processo através de uma janela que mostra os logs. Quando estiver completo, a página mostra informações sobre a aplicação e algumas opções para continuar sua jornada.

Gerencie o template

Considerando que essa configuração inicial pode não ser ótima para sua edge application específica, todas as configurações podem ser personalizadas a qualquer momento que você precise, usando a plataforma da Azion.

Atualize a edge function

Este template inclui uma edge function simples de Hello World pronta para ser executada. Essa função recebe uma requisição POST para o modelo de AI desejado e retorna a resposta.

const modelResponse = await Azion.AI.run("ista-daslab-gemma-3-27b-it-gptq-4b-128g", {
  "stream": true,
  "messages": [
    {
      "role": "system",
      "content": "You are a helpful assistant."
    },
    {
      "role": "user",
      "content": "Name the european capitals"
    }
  ]
})
return modelResponse

Este exemplo usa o modelo Gemma3. Você pode alterar o modelo e os parâmetros da requisição de acordo com suas preferências. Verifique a referência de modelos de AI para obter mais informações sobre os modelos disponíveis e como usá-los em sua aplicação.

Siga esses passos para atualizar a edge function de acordo com suas necessidades:

1. Acesse o Azion Console.
2. No canto superior esquerdo, selecione Products menu, o ícone de três linhas horizontais, > Edge Functions.
3. Encontre a edge function relacionada ao seu template e selecione-a. Ela terá o mesmo nome da sua edge application.
   • A lista está organizada alfabeticamente. Você também pode usar a barra de busca localizada no canto superior esquerdo da lista; atualmente, ela filtra apenas pelo campo Function Name.
4. Na página da edge function, use as abas para configurar sua função.
   • Na aba Main Settings, você pode renomear a função e alterar algumas configurações básicas.
   • Na aba Code, você pode atualizar o código da função.
   • Na aba Arguments, você pode definir os argumentos usados pela função.
5. Clique no botão Save para salvar suas alterações.

Gerencie a edge application

Para gerenciar e editar as configurações da sua edge application, siga esses passos:

1. Acesse o Azion Console.
2. No canto superior esquerdo, selecione Products Menu, o ícone de três linhas horizontais, > Edge Application.
   • Você será redirecionado para a página Edge Application. Ela lista todas as edge applications que você criou.
3. Encontre a edge application relacionada ao seu template e selecione-a.
   • A lista está organizada alfabeticamente. Você também pode usar a barra de busca localizada no canto superior esquerdo da lista; atualmente, ela filtra apenas pelo campo Application Name.

Depois de selecionar a edge application que você trabalhará, você será direcionado para uma página contendo todas as configurações que você pode ajustar.

Adicione um domínio personalizado

A edge application criada durante a implementação tem um domínio Azion atribuído para torná-la acessível através do navegador. O domínio tem o seguinte formato: xxxxxxxxxx.map.azionedge.net/. No entanto, você pode adicionar um domínio personalizado para que os usuários acessem sua edge application através dele.