Nexa SDK

Exécutez n'importe quel modèle sur n'importe quel appareil — CPU, GPU, NPU
Exécuter des LLM localementExécution locale (SDK)Apache-2.0S'exécute localementPythonIntermédiaire
OSAI Pulse ⓘ ★★★★★★★★★★ /100 signaux suivis
🐳 téléchargements Docker 📦 téléchargements PyPI / mois 📦 téléchargements npm / mois 🚀 Dernière version ·
Visitez le site →Voir sur GitHub

Qu'est-ce que Nexa SDK ?

Nexa SDK exécute des modèles de texte, de vision, d'audio et d'image localement sur des backends CPU, GPU et NPU, avec une API unique et un serveur compatible OpenAI.

Pourquoi les gens choisissent Nexa SDK

Nexa SDK en un coup d'œil

CatégorieExécuter des LLM localement
TypeExécution locale (SDK)
LicenceApache-2.0
S'exécute localementOui
Construit avecPython
Niveau de compétenceIntermédiaire
Meilleur pourdéveloppeurs ciblant de nombreux types de dispositifs à partir d'une seule base de code

Alternatives open-source au Nexa SDK

Autres outils open-source pour exécuter des LLM localement qui valent la peine d'être comparés :

OllamaExécuter des LLM open-source localement avec une seule commandeLM StudioParcourir, télécharger et discuter avec des modèles locauxJanApplication de bureau de style ChatGPT open-source et hors ligneGPT4AllIA locale privée qui s'exécute sur CPUllama.cppLe moteur C/C++ alimentant l'inférence localeLocalAIUne API OpenAI à auto-hébergerText Generation WebUIInterface web riche en fonctionnalités pour les modèles locauxKoboldCppExécuteur de modèle local en un seul fichierMLC LLMExécuter des LLM sur n'importe quel appareil, même les téléphonesllamafileUn fichier exécutable = modèle + runtimeexoExécutez de grands modèles sur vos appareils quotidiensCortexRuntime de style Ollama de l'équipe JanRamaLamaExécutez des modèles en tant que conteneurs OCIGPUStackGérez des clusters GPU pour exécuter des modèles

Nexa SDK en tête-à-tête

Nexa SDK vs OllamaNexa SDK vs LM StudioNexa SDK vs JanNexa SDK vs GPT4AllNexa SDK vs llama.cppNexa SDK vs LocalAINexa SDK vs Text Generation WebUINexa SDK vs KoboldCppNexa SDK vs MLC LLMNexa SDK vs llamafileNexa SDK vs exoNexa SDK vs CortexNexa SDK vs RamaLamaNexa SDK vs GPUStack

FAQ

Nexa SDK est-il gratuit ?

Nexa SDK est gratuit et open-source (licence Apache-2.0), vous pouvez donc l'utiliser, l'auto-héberger et le modifier sans frais.

Puis-je exécuter Nexa SDK localement ?

Oui. Nexa SDK est conçu pour fonctionner sur votre propre machine ou serveur, gardant vos données privées.

Quelle est la meilleure alternative au Nexa SDK ?

Les alternatives open-source populaires incluent Ollama, LM Studio, Jan. Consultez les comparaisons ci-dessus pour choisir.

Explorez plus d'IA open-source

Parcourez le répertoire complet des outils, modèles et projets d'IA open-source — mis à jour quotidiennement.

Parcourez tous les outils →