Qwen3 30B A3B Instruct 2507 FP8
Qwen3-30B-A3B-Instruct-2507-FP8 é um modelo de linguagem causal FP8 ajustado por instruções com 30 bilhões de parâmetros para geração de texto de longo contexto (256K) e raciocínio, suportando chat/QA, sumarização, tarefas multilíngues, resolução de problemas de matemática/ciência, codificação e fluxos de trabalho aumentados por ferramentas.
| Categoria | Detalhes |
|---|---|
| Nome do modelo | Qwen/Qwen3-30B-A3B-Instruct-2507-FP8 |
| Versão | 32B - FP8 |
| Categoria do modelo | LLM |
| Tamanho | 30B |
| Modelo HuggingFace | Qwen/Qwen3-30B-A3B-Instruct-2507-FP8 |
| Endpoint compatível com OpenAI | Chat Completions |
| LICENÇA | Apache 2.0 |
Capacidades
| Recurso | Status |
|---|---|
| Chamada de ferramentas | ✅ |
| Comprimento do contexto | 64k |
| Suporta LoRA | ✅ |
| Dados de entrada | TEXTO |
Uso
Conclusão de chat básico
const modelResponse = await Azion.AI.run("Qwen/Qwen3-30B-A3B-Instruct-2507-FP8", { "stream": true, "messages": [ { "role": "system", "content": "Você é um assistente útil." }, { "role": "user", "content": "Nomeie as capitais europeias" } ]})Exemplo de chamada de ferramenta
const modelResponse = await Azion.AI.run("Qwen/Qwen3-30B-A3B-Instruct-2507-FP8", { "stream": true, "messages": [ { "role": "system", "content": "Você é um assistente útil com acesso a ferramentas." }, { "role": "user", "content": "Qual é o clima em Londres?" } ], "tools": [ { "type": "function", "function": { "name": "get_weather", "description": "Obter o clima atual para um local", "parameters": { "type": "object", "properties": { "location": { "type": "string", "description": "A cidade e o estado" } }, "required": [ "location" ] } } } ]})Esquema JSON
{ "$schema": "http://json-schema.org/draft-07/schema#", "type": "object", "required": [ "messages" ], "properties": { "messages": { "type": "array", "items": { "$ref": "#/components/schemas/Message" } }, "temperature": { "type": "number", "minimum": 0, "maximum": 2 }, "top_p": { "type": "number", "minimum": 0, "maximum": 1, "default": 1 }, "n": { "type": "integer", "minimum": 1, "default": 1 }, "stream": { "type": "boolean", "default": false }, "max_tokens": { "type": "integer", "minimum": 1 }, "presence_penalty": { "type": "number", "minimum": -2, "maximum": 2, "default": 0 }, "frequency_penalty": { "type": "number", "minimum": -2, "maximum": 2, "default": 0 }, "tools": { "type": "array", "items": { "$ref": "#/components/schemas/ToolDefinition" } } }, "components": { "schemas": { "Message": { "oneOf": [ { "$ref": "#/components/schemas/SystemMessage" }, { "$ref": "#/components/schemas/UserMessage" }, { "$ref": "#/components/schemas/AssistantMessage" }, { "$ref": "#/components/schemas/ToolMessage" } ] }, "SystemMessage": { "type": "object", "required": [ "role", "content" ], "properties": { "role": { "type": "string", "enum": [ "system" ] }, "content": { "$ref": "#/components/schemas/TextContent" } } }, "UserMessage": { "type": "object", "required": [ "role", "content" ], "properties": { "role": { "type": "string", "enum": [ "user" ] }, "content": { "$ref":"#/components/schemas/TextContent" } } }, "AssistantMessage": { "oneOf": [ { "$ref": "#/components/schemas/AssistantMessageWithoutToolCalls" }, { "$ref": "#/components/schemas/AssistantMessageWithToolCalls" } ] }, "ToolMessage": { "type": "object", "required": [ "role", "content", "tool_call_id" ], "properties": { "role": { "enum": [ "tool" ] }, "content": { "$ref":"#/components/schemas/TextContent" }, "tool_call_id": { "type": "string" } } }, "AssistantMessageWithoutToolCalls": { "type": "object", "required": [ "role", "content" ], "properties": { "role": { "type": "string", "enum": [ "assistant" ] }, "content": { "$ref": "#/components/schemas/TextContent" } }, "not": { "required": [ "tool_calls" ] } }, "AssistantMessageWithToolCalls": { "type": "object", "required": [ "role", "tool_calls" ], "properties": { "role": { "type": "string", "enum": [ "assistant" ] }, "tool_calls": { "type": "array", "items": { "$ref": "#/components/schemas/ToolCalls" } } } }, "TextContent": { "oneOf": [ { "type": "string" }, { "type": "array", "items": { "$ref": "#/components/schemas/TextContentItem" } } ], "description": "Conteúdo de texto que pode ser fornecido como uma string simples ou como um array de objetos TextContentItem" }, "TextContentItem": { "type": "object", "required": [ "type", "text" ], "properties": { "type": { "type": "string", "enum": [ "text" ] }, "text": { "type": "string" } } }, "ToolCalls": { "type": "object", "required": [ "function", "id", "type" ], "properties": { "function": { "type": "object", "required": [ "name", "arguments" ], "properties": { "name": { "type": "string" }, "arguments": { "type": "string" } } }, "id": { "type": "string" }, "type": { "enum": [ "function" ] } }, "description":"O nome e os argumentos de uma função que deve ser chamada, conforme gerado pelo modelo." }, "ToolDefinition": { "type": "object", "required": [ "type", "function" ], "properties": { "type": { "type": "string", "enum": [ "function" ] }, "function": { "type": "object", "required": [ "name" ], "properties": { "name": { "type": "string" }, "description": { "type": "string" }, "parameters": { "type": "object", "additionalProperties": true }, "strict": { "type": "boolean", "default": false } } } }, "description": "Definição de uma ferramenta que pode ser usada pelo modelo" } } }}