exo
Führen Sie große Modelle auf Ihren Alltagsgeräten aus
LLMs lokal ausführenVerteiltes HeimclusterGPL-3.0Läuft lokalPythonMittelstufe
🐳 Docker-Pulls
📦 PyPI-Downloads / Monat
📦 npm-Downloads / Monat
🚀 Neueste Version ·
Was ist exo?
exo verwandelt die Geräte, die Sie bereits besitzen — Macs, PCs, Telefone — in ein selbstorganisierendes KI-Cluster, das große Modelle über sie verteilt mit automatischer Peer-Erkennung.
Warum wählen die Leute exo?
- Aggregiert den Speicher aller Ihrer Geräte automatisch
- ChatGPT-kompatible API auf Ihrem eigenen Cluster
- Kein teurer GPU-Server für große Modelle erforderlich
exo auf einen Blick
| Kategorie | LLMs lokal ausführen |
| Typ | Verteiltes Heimcluster |
| Lizenz | GPL-3.0 |
| Läuft lokal | Ja |
| Hergestellt mit | Python |
| Fähigkeitsstufe | Mittelstufe |
| Am besten für | Modelle ausführen, die zu groß für eine einzelne Maschine zu Hause sind |
Neueste Versionen
Open-Source-Alternativen zu exo
Andere Open-Source-Tools zum lokalen Ausführen von LLMs, die einen Vergleich wert sind:
OllamaFühren Sie offene LLMs lokal mit einem Befehl aus
JanOpen-Source, offline ChatGPT-ähnliche Desktop-App
GPT4AllPrivate lokale KI, die auf CPU läuft
llama.cppDie C/C++-Engine, die lokale Inferenz antreibt
LocalAIEine OpenAI-API, die Sie selbst hosten
Text Generation WebUIFunktionsreiche Web-UI für lokale Modelle
KoboldCppEinzeldatei-Läufer für lokale Modelle
MLC LLMLLMs auf jedem Gerät ausführen, sogar auf Handys
llamafileEine ausführbare Datei = Modell + LaufzeitCortexOllama-Stil Laufzeit vom Jan-Team
Nexa SDKFühren Sie jedes Modell auf jedem Gerät aus — CPU, GPU, NPU
RamaLamaFühren Sie Modelle als OCI-Container aus
GPUStackVerwalten Sie GPU-Cluster zum Ausführen von Modellenexo im direkten Vergleich
exo vs Ollamaexo vs LM Studioexo vs Janexo vs GPT4Allexo vs llama.cppexo vs LocalAIexo vs Text Generation WebUIexo vs KoboldCppexo vs MLC LLMexo vs llamafileexo vs Cortexexo vs Nexa SDKexo vs RamaLamaexo vs GPUStack
Häufig gestellte Fragen
Ist exo kostenlos?
exo ist kostenlos und Open Source (GPL-3.0 Lizenz), sodass Sie es kostenlos nutzen, selbst hosten und modifizieren können.
Kann ich exo lokal ausführen?
Ja. exo ist dafür ausgelegt, auf Ihrem eigenen Computer oder Server zu laufen und Ihre Daten privat zu halten.
Was ist die beste Alternative zu exo?
Beliebte Open-Source-Alternativen sind Ollama, LM Studio, Jan. Sehen Sie sich die Vergleiche oben an, um zu wählen.
Entdecken Sie weitere Open-Source-AI
Durchsuchen Sie das vollständige Verzeichnis von Open-Source-AI-Tools, Modellen und Projekten – täglich aktualisiert.
Alle Tools durchsuchen →