exo transforme les appareils que vous possédez déjà — Macs, PC, téléphones — en un cluster AI auto-organisé, répartissant de grands modèles entre eux avec découverte automatique des pairs.
| Catégorie | Exécuter des LLM localement |
| Type | Cluster domestique distribué |
| Licence | GPL-3.0 |
| S'exécute localement | Oui |
| Construit avec | Python |
| Niveau de compétence | Intermédiaire |
| Meilleur pour | exécuter des modèles trop grands pour une seule machine à la maison |
Autres outils open-source pour exécuter des LLM localement qui valent la peine d'être comparés :
OllamaExécuter des LLM open-source localement avec une seule commande
JanApplication de bureau de style ChatGPT open-source et hors ligne
GPT4AllIA locale privée qui s'exécute sur CPU
llama.cppLe moteur C/C++ alimentant l'inférence locale
LocalAIUne API OpenAI à auto-héberger
Text Generation WebUIInterface web riche en fonctionnalités pour les modèles locaux
KoboldCppExécuteur de modèle local en un seul fichier
MLC LLMExécuter des LLM sur n'importe quel appareil, même les téléphones
llamafileUn fichier exécutable = modèle + runtime
CortexRuntime de style Ollama de l'équipe Jan
Nexa SDKExécutez n'importe quel modèle sur n'importe quel appareil — CPU, GPU, NPU
RamaLamaExécutez des modèles en tant que conteneurs OCI
GPUStackGérez des clusters GPU pour exécuter des modèlesexo est gratuit et open-source (licence GPL-3.0), vous pouvez donc l'utiliser, l'héberger vous-même et le modifier sans frais.
Oui. exo est conçu pour s'exécuter sur votre propre machine ou serveur, gardant vos données privées.
Les alternatives open-source populaires incluent Ollama, LM Studio, Jan. Consultez les comparaisons ci-dessus pour choisir.
Parcourez le répertoire complet des outils, modèles et projets d'IA open-source — mis à jour quotidiennement.
Parcourez tous les outils →