Primeiros passos com Load Balancer

Ative Load Balancer em um connector, adicione um segundo endereço com um peso e tire um endereço da rotação.

Última atualização

Ver como Markdown Configurar agente

Este guia orienta você a distribuir as requisições do seu primeiro connector entre dois servidores de origem com Load Balancer.

  • Ative Load Balancer no connector e adicione um segundo endereço, com um peso para cada endereço.
  • Envie requisições repetidas pelo seu workload e veja respostas dos dois servidores.
  • Tire um endereço da rotação e veja toda requisição chegar ao outro.

Quatro partes formam a cadeia, listadas na ordem em que este guia as usa:

  1. O connector dos Primeiros passos com Connectors recebe Load Balancer e o método Round Robin.
  2. Os endereços do connector passam a ser dois: httpbin.org, com peso 2, e httpbingo.org, com peso 1.
  3. A regra que envia toda requisição sob /anything para o connector fica como está.
  4. O workload que atende a sua aplicação recebe as requisições. O deployment dele não precisa de alteração.

Os dois servidores são serviços públicos que respondem a uma requisição para /anything/get com uma cópia em JSON dessa requisição. Cada um se identifica no header de resposta server, então a resposta mostra qual endereço respondeu. Para usar os seus próprios servidores, substitua os dois hostnames por servidores que guardam o mesmo conteúdo.

Os pré-requisitos e as três etapas mostram os passos de uma interface por vez. Selecione a sua:

Pré-requisitos

  • O resultado dos Primeiros passos com Connectors: o connector my-connector e uma regra que envia toda requisição sob /anything para ele.
  • O workload domain do workload que atende a aplicação, no formato <id>.map.azionedge.net. Este guia o escreve como <workload-domain>.
  • curl, para enviar as requisições ao workload domain.
  • A Azion CLI na sua máquina, autorizada com um personal token.
  • O ID do connector.
  • Um personal token para o header Authorization.
  • O ID do connector.

Ative Load Balancer e adicione um endereço

Um connector contém um endereço até que Load Balancer esteja ativado. Com Load Balancer ativado, ele contém até 15 endereços, e um método de balanceamento escolhe um deles para cada requisição. Round Robin usa os endereços em sequência. Para os limites, consulte Limites de Connectors.

Cada endereço carrega um peso de 1 a 100, e um peso maior destina mais tráfego a esse endereço. O peso define a proporção de requisições, não uma divisão exata. Cada endereço também carrega uma função do servidor. Os dois endereços deste guia são Primary. Um endereço Backup recebe requisições apenas quando todos os endereços primários falham, e o método IP Hash o recusa. Para mais informações, consulte Função do servidor.

Todo endereço de um connector recebe o mesmo header Host e o mesmo protocolo de transporte. Duas alterações nas opções de conexão fazem uma única configuração funcionar para os dois servidores:

  • O header Host passa a ser ${host}, o host que o cliente requisitou, em vez de httpbin.org. Um httpbin.org fixo enviaria a httpbingo.org um header Host que nomeia outro servidor.
  • O connector alcança os dois servidores por HTTP. Por HTTPS, httpbingo.org aceita apenas conexões para o próprio nome.

Para ativar Load Balancer com a Azion CLI, coloque o connector inteiro em um arquivo JSON. O comando de atualização precisa do corpo completo, com todos os campos que o connector mantém. Salve este corpo como connector.json:

JSON
01{
02 "name": "my-connector",
03 "active": true,
04 "type": "http",
05 "attributes": {
06 "addresses": [
07 {
08 "address": "httpbin.org",
09 "modules": { "load_balancer": { "server_role": "primary", "weight": 2 } }
10 },
11 {
12 "address": "httpbingo.org",
13 "modules": { "load_balancer": { "server_role": "primary", "weight": 1 } }
14 }
15 ],
16 "connection_options": {
17 "transport_policy": "force_http",
18 "host": "${host}"
19 },
20 "modules": {
21 "load_balancer": { "enabled": true, "config": { "method": "round_robin" } }
22 }
23 }
24}

modules.load_balancer em cada endereço guarda a função e o peso dele. modules.load_balancer sob attributes ativa Load Balancer, e config deve conter pelo menos uma chave.

Atualize o connector a partir do arquivo. Substitua <connector-id> pelo ID do seu connector. O comando precisa de --type, mesmo que o arquivo nomeie o tipo:

azion update connector --connector-id <connector-id> --type http --file connector.json

A saída confirma a atualização:

Updated Connector with ID <connector-id>

O connector tem Load Balancer ativado e dois endereços ativos. As configurações que config deixa de fora recebem os padrões da API: max_retries 0, connection_timeout 60 e read_write_timeout 120.

Para ativar Load Balancer com a API, envie uma requisição PATCH para o connector. Substitua <connector-id> pelo ID do seu connector e [TOKEN VALUE] pelo seu personal token:

Shell
01curl --request PATCH \
02 --url https://api.azion.com/v4/workspace/connectors/<connector-id> \
03 --header 'Accept: application/json' \
04 --header 'Authorization: Token [TOKEN VALUE]' \
05 --header 'Content-Type: application/json' \
06 --data {
07 "attributes": {
08 "addresses": [
09 {
10 "address": "httpbin.org",
11 "modules": { "load_balancer": { "server_role": "primary", "weight": 2 } }
12 },
13 {
14 "address": "httpbingo.org",
15 "modules": { "load_balancer": { "server_role": "primary", "weight": 1 } }
16 }
17 ],
18 "connection_options": {
19 "transport_policy": "force_http",
20 "host": "${host}"
21 },
22 "modules": {
23 "load_balancer": { "enabled": true, "config": { "method": "round_robin" } }
24 }
25 }
26}

addresses substitui a lista de endereços, e modules.load_balancer em cada um guarda a função e o peso dele. modules.load_balancer sob attributes ativa Load Balancer, e config deve conter pelo menos uma chave. Um PATCH mantém as opções de conexão que o corpo deixa de fora.

A API responde com 202 e "state": "pending". O connector tem Load Balancer ativado e dois endereços ativos. As configurações que config deixa de fora recebem os padrões da API: max_retries 0, connection_timeout 60 e read_write_timeout 120.

Para ativar Load Balancer no Azion Console:

Abra a página Connectors

Acesse Azion Console > Connectors.

Abra o seu connector

Selecione my-connector, o connector dos Primeiros passos com Connectors.

Envie o host requisitado no header Host

Em Host, insira ${host}.

Conecte-se aos servidores por HTTP

Em Transport Protocol Policy, selecione Force HTTP.

Ative Load Balancer

Em Modules, ative Load Balancer.

Selecione o método de balanceamento

Em Load Balancer Configuration, defina Method como Round Robin.

Configure o primeiro endereço

Em Address Management, em httpbin.org, defina Server Role como Primary e insira 2 em Weight.

Selecione Add Address
Insira o segundo endereço

No novo Address, insira httpbingo.org, sem protocolo e sem porta.

Configure o segundo endereço

Defina Server Role como Primary e insira 1 em Weight.

Selecione Save

Azion Console mostra Connector has been updated. O connector tem Load Balancer ativado e dois endereços ativos.

Confirme que os dois endereços respondem

A verificação é a mesma, qualquer que seja a interface que alterou o connector. Nos comandos, substitua <workload-domain> pelo workload domain do seu workload.

Uma alteração em um connector leva vários minutos para chegar à infraestrutura distribuída da Azion, e os data centers a aplicam em momentos diferentes. Até lá, algumas requisições ainda chegam apenas a httpbin.org, e algumas podem retornar uma página de erro 502. Repita as requisições até que os dois servidores respondam. Para mais informações, consulte Propagação.

Envie uma requisição para um caminho sob /anything e imprima os headers de resposta com o corpo:

curl -s -D - https://<workload-domain>/anything/get

Envie a mesma requisição várias vezes. Uma resposta de httpbin.org traz este header server:

Texto
01HTTP/2 200
02…
03server: gunicorn/19.9.0
04…

Uma resposta de httpbingo.org traz este:

Texto
01HTTP/2 200
02…
03server: Fly/<version>
04via: 1.1 fly.io, 1.1 fly.io
05…

Os dois servidores respondem pelo mesmo caminho, então o connector distribui as requisições entre os dois endereços.

As respostas não chegam em uma ordem fixa. Cada data center faz o balanceamento por conta própria, então uma sequência de requisições pode favorecer um endereço, e a proporção varia de uma execução para outra. Para mais informações, consulte Load Balancer.

Tire um endereço da rotação

Um endereço com Active desativado continua no connector e não recebe requisições. Use isso para tirar um servidor de operação antes de uma manutenção, sem excluir o endereço. Esta etapa tira httpbingo.org da rotação.

Para tirar o endereço da rotação com a Azion CLI, edite o connector.json que você salvou. Adicione "active": false ao endereço httpbingo.org:

JSON
01{
02 "name": "my-connector",
03 "active": true,
04 "type": "http",
05 "attributes": {
06 "addresses": [
07 {
08 "address": "httpbin.org",
09 "modules": { "load_balancer": { "server_role": "primary", "weight": 2 } }
10 },
11 {
12 "address": "httpbingo.org",
13 "active": false,
14 "modules": { "load_balancer": { "server_role": "primary", "weight": 1 } }
15 }
16 ],
17 "connection_options": {
18 "transport_policy": "force_http",
19 "host": "${host}"
20 },
21 "modules": {
22 "load_balancer": { "enabled": true, "config": { "method": "round_robin" } }
23 }
24 }
25}

Atualize o connector a partir do arquivo:

azion update connector --connector-id <connector-id> --type http --file connector.json

A saída confirma a atualização:

Updated Connector with ID <connector-id>

O endereço httpbingo.org está inativo e mantém a função e o peso dele.

Para tirar o endereço da rotação com a API, envie uma requisição PATCH com os dois endereços e "active": false em httpbingo.org:

Shell
01curl --request PATCH \
02 --url https://api.azion.com/v4/workspace/connectors/<connector-id> \
03 --header 'Accept: application/json' \
04 --header 'Authorization: Token [TOKEN VALUE]' \
05 --header 'Content-Type: application/json' \
06 --data {
07 "attributes": {
08 "addresses": [
09 {
10 "address": "httpbin.org",
11 "modules": { "load_balancer": { "server_role": "primary", "weight": 2 } }
12 },
13 {
14 "address": "httpbingo.org",
15 "active": false,
16 "modules": { "load_balancer": { "server_role": "primary", "weight": 1 } }
17 }
18 ]
19 }
20}

O corpo lista todos os endereços que o connector mantém, porque addresses substitui a lista. A API responde com 202 e "state": "pending". O endereço httpbingo.org está inativo e mantém a função e o peso dele.

Para tirar o endereço da rotação no Azion Console:

Abra o seu connector

Acesse Azion Console > Connectors e selecione my-connector.

Desative o segundo endereço

Em Address Management, em httpbingo.org, desative Active.

Selecione Save

Azion Console mostra Connector has been updated. O endereço httpbingo.org está inativo.

A alteração chega aos data centers em momentos diferentes, como quando você adicionou o endereço. Por vários minutos, algumas requisições ainda chegam a httpbingo.org. Envie esta requisição várias vezes:

curl -s -D - https://<workload-domain>/anything/get

Quando todos os data centers tiverem a alteração, toda resposta traz o header de httpbin.org:

Texto
01HTTP/2 200
02…
03server: gunicorn/19.9.0
04…

Nenhuma resposta traz o header Fly. O connector envia toda requisição ao endereço ativo, e httpbingo.org continua no connector com a função e o peso dele.

Próximos passos

Métodos de balanceamentoCompare Round Robin, Least Connections e IP Hash, e veja como o peso e a função do servidor influenciam a escolha.Balanceie o tráfego entre múltiplas origensPlaneje servidores primários e de backup para uma aplicação que precisa continuar respondendo durante uma indisponibilidade.Limites de ConnectorsOs limites de endereços, peso, novas tentativas e timeouts com Load Balancer ativado.Configurações de connectorCada campo de Load Balancer, com o padrão dele na API e no Console.