exo trasforma i dispositivi che già possiedi — Mac, PC, telefoni — in un cluster AI auto-organizzante, suddividendo grandi modelli tra di essi con scoperta automatica dei peer.
| Categoria | Esegui LLM localmente |
| Tipo | Cluster domestico distribuito |
| Licenza | GPL-3.0 |
| Esegue localmente | Sì |
| Costruito con | Python |
| Livello di abilità | Intermedio |
| Migliore per | esecuzione di modelli troppo grandi per qualsiasi singola macchina a casa |
Altri strumenti open-source per eseguire LLM localmente da confrontare:
OllamaEsegui LLM open localmente con un comando
JanApp desktop in stile ChatGPT open-source e offline
GPT4AllAI locale privata che gira su CPU
llama.cppIl motore C/C++ che alimenta l'inferenza locale
LocalAIUn'API OpenAI che ospiti autonomamente
Text Generation WebUIInterfaccia web ricca di funzionalità per modelli locali
KoboldCppEseguitore di modelli locali in un singolo file
MLC LLMEsegui LLM su qualsiasi dispositivo, anche telefoni
llamafileUn file eseguibile = modello + runtime
CortexRuntime in stile Ollama del team di Jan
Nexa SDKEsegui qualsiasi modello su qualsiasi dispositivo — CPU, GPU, NPU
RamaLamaEsegui modelli come contenitori OCI
GPUStackGestisci cluster GPU per eseguire modelliexo è gratuito e open-source (licenza GPL-3.0), quindi puoi usarlo, ospitarlo autonomamente e modificarlo senza costi.
Sì. exo è progettato per essere eseguito sulla tua macchina o server, mantenendo i tuoi dati privati.
Le popolari alternative open-source includono Ollama, LM Studio, Jan. Vedi i confronti sopra per scegliere.
Sfoglia l'intero elenco di strumenti, modelli e progetti AI open-source — aggiornato quotidianamente.
Sfoglia tutti gli strumenti →