Nexa SDK ejecuta modelos de texto, visión, audio e imagen localmente en CPU, GPU y NPU, con una única API unificada y un servidor compatible con OpenAI.
| Categoría | Ejecutar LLMs localmente |
| Tipo | Tiempo de ejecución local (SDK) |
| Licencia | Apache-2.0 |
| Ejecuta localmente | Sí |
| Construido con | Python |
| Nivel de habilidad | Intermedio |
| Mejor para | desarrolladores que apuntan a muchos tipos de dispositivos desde una única base de código |
Otras herramientas de código abierto para ejecutar LLMs localmente que vale la pena comparar:
OllamaEjecutar LLMs abiertos localmente con un solo comando
JanAplicación de escritorio estilo ChatGPT de código abierto y sin conexión
GPT4AllIA local privada que se ejecuta en CPU
llama.cppEl motor C/C++ que impulsa la inferencia local
LocalAIUna API de OpenAI que autohospedas
Text Generation WebUIInterfaz web rica en funciones para modelos locales
KoboldCppEjecutor de modelo local en un solo archivo
MLC LLMEjecutar LLMs en cualquier dispositivo, incluso teléfonos
llamafileUn archivo ejecutable = modelo + tiempo de ejecución
exoEjecuta grandes modelos en tus dispositivos cotidianos
CortexTiempo de ejecución estilo Ollama del equipo de Jan
RamaLamaEjecuta modelos como contenedores OCI
GPUStackGestiona clústeres de GPU para ejecutar modelosNexa SDK es gratuito y de código abierto (licencia Apache-2.0), por lo que puedes usarlo, autohospedarlo y modificarlo sin costo.
Sí. Nexa SDK está diseñado para ejecutarse en tu propia máquina o servidor, manteniendo tus datos privados.
Las alternativas populares de código abierto incluyen Ollama, LM Studio, Jan. Consulta las comparaciones anteriores para elegir.
Navega por el directorio completo de herramientas, modelos y proyectos de IA de código abierto, actualizado diariamente.
Navega todas las herramientas →