E5 Mistral 7B Instruct
O modelo E5 Mistral 7B Instruct é otimizado para tarefas de embedding de texto em inglês, com capacidades para processamento multilíngue, customização flexível e manipulação de sequências de entrada longas, tornando-o adequado para aplicações complexas de processamento de linguagem natural.
Detalhes do modelo
Categoria | Detalhes |
---|---|
Nome do modelo | E5 Mistral 7B Instruct |
Versão | Original |
Categoria do modelo | Embedding |
Tamanho | 7B parâmetros |
Modelo HuggingFace | e5-mistral-7b-instruct |
Endpoint Compatível com a OpenAI | Embeddings |
Licença | MIT |
Capacidades
Recurso | Detalhes |
---|---|
Suporte a Longo Prazo da Azion (LTS) | ❌ |
Comprimento do Contexto | 32728 |
Suporta LoRA | ✅ |
Dados de entrada | Texto |
Uso
Embedding
Este é um exemplo de como usar este modelo para gerar embeddings para entrada de texto:
curl http://endpoint-url/v1/embeddings \ -H "Content-Type: application/json" \ -d '{ "input": "The food was delicious and the waiter...", "model": "intfloat/e5-mistral-7b-instruct", "encoding_format": "float" }'
Executando com Edge Functions:
Este é um exemplo de como usar este modelo com Edge Functions:
const modelResponse = await Azion.AI.run("intfloat-e5-mistral-7b-instruct", { "input": "The food was delicious and the waiter...", "encoding_format": "float"})
JSON schema
{ "$schema": "http://json-schema.org/draft-07/schema#", "type": "object", "required": [ "input" ], "properties": { "encoding_format": { "type": "string", "enum": [ "float", "base64" ] }, "dimensions": { "type": "integer" }, "input": { "oneOf": [ { "type": "string" }, { "type": "array", "items": { "oneOf": [ { "type": "string" }, { "type": "integer" }, { "type": "array", "items": { "type": "integer" } } ] } } ] } }}