Nexa SDK
Execute qualquer modelo em qualquer dispositivo — CPU, GPU, NPU
Executar LLMs localmenteTempo de execução local (SDK)Apache-2.0Executa localmentePythonIntermediário
🐳 pulls do Docker
📦 downloads do PyPI / mês
📦 downloads do npm / mês
🚀 Última versão ·
O que é o Nexa SDK?
O Nexa SDK executa modelos de texto, visão, áudio e imagem localmente em backends de CPU, GPU e NPU, com uma única API unificada e servidor compatível com OpenAI.
Por que as pessoas escolhem o Nexa SDK
- Executa em NPUs, não apenas em CPU e GPU
- Uma API para modelos de texto, visão e áudio
- Servidor local compatível com OpenAI
Nexa SDK em um relance
| Categoria | Executar LLMs localmente |
| Tipo | Tempo de execução local (SDK) |
| Licença | Apache-2.0 |
| Executa localmente | Sim |
| Construído com | Python |
| Nível de habilidade | Intermediário |
| Melhor para | desenvolvedores visando muitos tipos de dispositivos a partir de uma única base de código |
Últimas versões
Alternativas de código aberto ao Nexa SDK
Outras ferramentas de código aberto para executar LLMs localmente que valem a pena comparar:
OllamaExecutar LLMs abertos localmente com um comando
JanAplicativo de desktop estilo ChatGPT, offline e de código aberto
GPT4AllIA local privada que roda em CPU
llama.cppO motor C/C++ que alimenta a inferência local
LocalAIUma API OpenAI que você hospeda
Text Generation WebUIInterface web rica em recursos para modelos locais
KoboldCppExecutor de modelo local em um único arquivo
MLC LLMExecutar LLMs em qualquer dispositivo, até mesmo em telefones
llamafileUm arquivo executável = modelo + tempo de execução
exoExecute grandes modelos em seus dispositivos do dia a diaCortexTempo de execução estilo Ollama da equipe Jan
RamaLamaExecute modelos como contêineres OCI
GPUStackGerencie clusters de GPU para executar modelosNexa SDK comparativo
Nexa SDK vs OllamaNexa SDK vs LM StudioNexa SDK vs JanNexa SDK vs GPT4AllNexa SDK vs llama.cppNexa SDK vs LocalAINexa SDK vs Text Generation WebUINexa SDK vs KoboldCppNexa SDK vs MLC LLMNexa SDK vs llamafileNexa SDK vs exoNexa SDK vs CortexNexa SDK vs RamaLamaNexa SDK vs GPUStack
FAQ
O Nexa SDK é gratuito?
O Nexa SDK é gratuito e de código aberto (licença Apache-2.0), então você pode usar, auto-hospedar e modificar sem custo.
Posso executar o Nexa SDK localmente?
Sim. O Nexa SDK é projetado para ser executado em sua própria máquina ou servidor, mantendo seus dados privados.
Qual é a melhor alternativa ao Nexa SDK?
Alternativas populares de código aberto incluem Ollama, LM Studio, Jan. Veja as comparações acima para escolher.
Explore mais IA de código aberto
Navegue pelo diretório completo de ferramentas, modelos e projetos de IA de código aberto — atualizado diariamente.
Navegue por todas as ferramentas →